Russell begon zijn muzikale carrière op veertienjarige leeftijd toen hij in nachtclubs in Tulsa speelde. Twee jaar later vertrok hij naar Los Angeles, waar hij gitaarles kreeg van James Burton. Hij kon zich aansluiten bij een groep studiomuzikanten van producer Phil Spector en was als zodanig betrokken bij hits van The Byrds, Gary Lewis and the Playboys en Herb Alpert. In 1967 bouwde hij een eigen opnamestudio en maakte zijn eerste album: Look Inside the Asylum Choir.
Voor Joe Cocker schreef hij het nummer Delta Lady, dat zijn eerste hit was als liedjesschrijver. Voor Cocker organiseerde Russell vervolgens de "Mad Dogs & Englishmen"-tour. Het nummer Superstar, dat tijdens die tour door Rita Coolidge werd gezongen, werd een grote hit voor onder anderen The Carpenters en Luther Vandross. Russell bracht in dat jaar ook een eigen album uit onder de titel Leon Russell.
In 1971 speelde Russell op uitnodiging van George Harrison piano op het Badfinger-album Straight Up, waarvan het nummer Day after day een hit zou worden. De opnamen voor dit album moesten worden onderbroken voor het optreden van Russell en Badfinger op het benefiet-Concert for Bangladesh in New York, dat door Harrison in samenwerking met Ravi Shankar werd georganiseerd. Daarbij was voor Russell een hoofdrol weggelegd als zanger van een medley van Jumpin' Jack Flash en Young Blood. In dat jaar bracht Russell twee eigen albums uit: Leon Russell And The Shelter People en Asylum Choir II en werkte hij met B.B. King, Eric Clapton, Freddy King en Bob Dylan.
Russell trouwde in 1975 met Mary McCreary, zangeres in Little Sister, de achtergrondzangersgroep van Sly & the Family Stone. Samen maakten zij The Wedding Album in 1976 en Make Love to the Music in 1977. Samen met Willie Nelson had Russell een hit met het Elvis Presley-nummer Heartbreak Hotel en vervolgens toerde hij twee jaar met New Grass Revival.
Sinds de jaren tachtig trad Leon Russell wat meer op de achtergrond, hoewel hij incidenteel nog albums uitbracht en optrad.
Russell werd in 2006 opgenomen in de Oklahoma Music Hall of Fame en in 2011 in de Rock and Roll Hall of Fame. Hij werd in juli 2016 succesvol aan zijn hart geopereerd, maar overleed in november van dat jaar na een hartaanval. Russell werd 74 jaar oud.
