Begin jaren zestig werkte Sledge nog als verpleger in een ziekenhuis, toen hij zijn eerste schreden in de muziek zette als lid van de soulgroep de Esquires Combo. Lokale dj Quin Ivy adviseerde hem in 1966 om solo te gaan. "When a man loves a woman", door Sledge zelf geschreven, was de eerste single die van hem werd uitgebracht in de zomer van 1966, bij Atlantic Records. Al snel werd het wereldwijd een grote hit, waaronder nummer één in de Verenigde Staten. De single werd opgevolgd door de hits "Love Me Tender", "Take Time to Know Her" en in 1969 "My Special Prayer".
In de jaren zeventig daalde zijn populariteit. "I'll be your everything" uit 1975 was zijn laatste grote internationale hit. Zijn optredens verkochten daarentegen een stuk beter en tot in de jaren negentig bleef hij uitverkochte zalen trekken. In 1987 werd "When a man loves a woman" weer een hit, dankzij een reclame van het jeansmerkLevi's.
Percy Sledge overleed op 74-jarige leeftijd aan de gevolgen van leverkanker in zijn huis in Baton Rouge te Louisiana.[1] Sledge werd begraven op de Heavenly Gates Cemetery in het noorden van Baton Rouge.[2]