Konitz var sønn av jødiske av russisk og østerriksk bakgrunn. I 1938, da han var elleve år gammel, kjøpte han sin første klarinett og gikk inn i en selvstudiemetode.[trenger referanse] Året etter gikk han over tenorsaksofon, så var han, i tenårene altsaksofonist sammen med Teddy Powell og Jerry Wald, før han studerte i to år på Roosevelt College.[trenger referanse]
Han samarbeidet mye med Warne Marsh og Stan Kentons orkester utover 50-tallet, og nøt anseelse for å ha utviklet sin egen stil, i en tid da mange kopierte Charlie Parker.[trenger referanse] Etter en pause rundt 1960 ga han ut spontanjazz med Elvin Jones (Motions, 1961), og utviklet seg i datidens frijazz-retning, jf. utgivelsene Lee Konitz Duets (1967). Siden 1975 leder av nimannsgruppa Nonet.
Han turnerte regelmessig i Europa. På 1980-tallet gjestet han jazzmiljøer i Danmark (Danske Jazzpar Prize, 1992) og i Norge, spesielt jazzlinja (NTNU), med innspill til den norske New Cool Quartet (1982) og senere turne og plateutgivelser (1993). Han deltok på Oslo Jazzfestival senest i 2005, og ble i USA av Down Beat årets jazzmusiker i 2001.
