Jones werd geboren in Vicksburg, Mississippi, maar groeide op in Pontiac, Michigan. Met een bijzondere combinatie van talenten zoals sterk kunnen soleren, gevoelig kunnen begeleiden en bedreven a prima vista kunnen lezen, is Jones altijd vaak gevraagd voor allerlei soorten opnamesessies en is te horen op duizenden albums. Hank Jones is een broer van twee andere jazzlegendes, drummerElvin en orkestleider/trompettistThad Jones.
In New York luisterde Jones regelmatig naar belangrijke Bop musici en was geïnspireerd om deze stijl onder de knie te krijgen. Tijdens het oefenen en bestuderen van deze muziek, werkte hij met John Kirby, Howard McGhee, Coleman Hawkins, Andy Kirk en Billy Eckstine samen. In de herfst van 1947 maakte hij deel uit van de bezetting van Norman Granz' Jazz at the Philharmonic concerten en van 1948 tot 1953 was hij de begeleider van Ella Fitzgerald. Gedurende deze periode maakte hij ook meerdere historisch belangrijke opnames met Charlie Parker voor Norman Granz' platenlabels.
Eind jaren zeventig en in de jaren tachtig bleef Jones veel opnemen, als solist zonder begeleiding, als onderdeel van een duo met andere pianisten, zoals John Lewis en Tommy Flanagan, en met diverse kleinere ensembles, waarvan het meest opmerkelijke het Great Jazz Trio was. Deze groep kende door de jaren heen verschillende muzikanten, waaronder Tony Williams, Eddie Gomez, Al Foster en Jimmy Cobb. In het begin van de jaren tachtig was Jones te horen als een solo pianist in het New Yorkse Cafe Ziegfeld en maakte hij een tournee door Japan, waar hij optrad en opnames maakte met George Duvivier en Sonny Stitt.
Hank Jones leefde in het noorden van de staat New York, maar had op het einde van zijn carrière nog steeds een uitzonderlijk vol programma. In 2006 en 2007 trad hij op met zangeres Roberta Gambarini. Een van zijn opnamen uit 2006 is de plaat West of 5th, waarop hij met Christian McBride en Jimmy Cobb te horen is. In 2009 kreeg Jones een Grammy Lifetime Achievement Award. Kort erna speelde hij op het Haagse jazzfestival The Hague Jazz.