Garry Emmanuel Shandling nacque a Chicago, Illinois, il 29 novembre 1949. Il padre, Irving Shandling, era proprietario di una tipografia; la madre, Muriel Estelle (nata Singer), era proprietaria di un negozio di animali. La famiglia si trasferì a Tucson, in Arizona, in modo che il fratello maggiore di Garry, Barry, potesse curare la fibrosi cistica. Barry morì quando Garry aveva 10 anni.
Shandling frequentò la Palo Verde High School, e si laureò alla University of Arizona, dove seguì corsi di ingegneria elettronica e marketing, con un anno di studi post laurea in scrittura creativa.
A 19 anni, Shandling si recò in un club di Phoenix per mostrare a George Carlin alcuni testi comici. Il giorno successivo, Carlin gli disse che c'erano battute divertenti in ogni pagina e lo incoraggiò a continuare.
Nel 1973, Shandling si trasferì a Los Angeles, dove per alcuni anni lavorò in un'agenzia pubblicitaria.
Durante la sua carriera è stato candidato a diciannove Primetime Emmy Awards e due Golden Globe, insieme a molti altri premi. Ha condotto i Grammy Awards quattro volte e gli Emmy Awards tre volte.