Rudi Carrell föddes in i nöjesbranschen där fadern Andries Kesselaar var verksam under artistnamnet André Carrell. Rudi Carrell slog igenom med Rudi Carrell Show som började visas i nederländsk TV 1959. Han deltog för Nederländerna i Eurovision Song Contest 1960.
1965 följde den tyska versionen av hans TV-show och han blev en av Tysklands stora TV-personligheter via TV-program på Radio Bremen. Under 1970- och 1980-talet hade han stora framgångar med program som Rudis Tagesshow, Am laufenden Band och Die Rudi Carrell Show. 1975 hade Carrell en stora framgångar med låten Wann wird’s mal wieder richtig Sommer?.
2006 avled Rudi Carrell i cancer. Hans sista offentliga framträdande skedde i samband med galan Goldene Kamera i början av 2006 då han tilldelades Goldene Kamera für sein Lebenswerk och fick stående ovationer av publiken.