Etter universitets- og teologistudier begynte han å arbeide for Martin Luther King og ble en av hans nærmeste menn. Sammen med ham organiserte han Southern Christian Leadership Conference (SCLC) og var mot sluttet av 1960-årene leder for Operation Breadbasket. I 1971 grunnla han People United to Serve Humanity (PUSH), en organisasjon for selvhjelp for den sorte befolkningen, og 1984Rainbow Coalition.
I 1980-årene ble han en velkjent politiker og talsmann i borgerrettsspørsmål og for den afroamerikanske befolkningsgruppen. Han drev i 1984 og 1988 kampanjer for å bli presidentkandidat for Det demokratiske parti.
Han har deretter blant annet støttet Bill Clinton og til tider vært en av hans rådgivere. Han har også agert internasjonalt og ved en rekke anledninger medvirket til å få amerikanske fanger og gisler frigitt. Han har senere fremtrådt som kritiker av amerikansk utenrikspolitikk i Midtøsten og Latin-Amerika, som i forbindelse med krigen i Irak.