Gary utexaminerades från Southeastern State College, arbetade sedan först som lärare och blev senare affärsman inom oljebranschen. År 1940 blev han invald i Oklahomas senat.[1] I guvernörsvalet 1954 besegrade han republikanen Reuben K. Sparks. Gary efterträdde 1955 Johnston Murray som Oklahomas guvernör och efterträddes 1959 av J. Howard Edmondson.[2] Gary avled 1993 och gravsattes i Madill.[3]