Han ble utdannet på offentlige skoler i Vermont, blant andre ved Bakersfield Academy, og deretter studerte han ved University of Vermont, derfra ble han uteksaminert i 1899. Han studerte juss og gikk inn advokat-praksisen i 1902. I 1904 ble han utnevnt til advokat for kommunen i Franklin County, en stilling som han hadde i to år.
Politiker
I løpet av hans første tid i politikken, hadde han en rekke forskjellige roller og posisjoner, blant annet satt han som formann i det republikanske State Convention for Vermont i 1908, som ordfører i At. Albans i 1909, som delegat til kongressen til Mint i 1912, og han satt som medlem av USAs domstol for Kina i 1917. I denne perioden, fungerte han også som en kommisjonær for staten mellom 1907 og 1915.
Hans stigning i de politiske gradene førte senere til oppnevnelsen av ham som bobestyrer av University of Vermont i 1914, en stilling han fikk beholde frem til 1941. Han var også en spesiell rådgiver for Vermont i en krangel om den nøyaktige grensen mellom Vermont og nabostaten New Hampshire som varte i hele 12 år mellom 1925 og 1937.
Han ble valgt inn til Senatet den 31. mars 1931, i et spesielt valg etter den døde tidligere senator Frank L. Greene, og Austin tok hans plass dagen etter valget av ham. Han fortsatte med å vinne gjenvalg til senatet to ganger (i 1934 og 1940). Han gikk av den 2. august 1946, nær slutten av sin siste periode, for å akseptere utnevnelsen av ham som USAs ambassadør til FN, en stilling han hadde frem til 25. januar 1953, da han trakk seg tilbake fra politikken og flyttet til Burlington.