Er wurde durch Stig Anderson entdeckt, und seine erste Single erschien 1971 bei Polar Music. Sein Debütalbum Undringar wurde von Björn und Benny von ABBA produziert und war wie die weiteren Alben ein Charterfolg in Schweden. Gärdestad versuchte sich vier Mal beim Melodifestivalen (1973, 1975, 1979, 1980), doch nur 1979 konnte er den Sieg erringen mit dem Pop-Rock-Titel Satellit. Beim Eurovision Song Contest 1979 musste er sich mit dem drittletzten Platz zufriedengeben.
1981 sang er noch für das Projekt Caramba, danach zog er sich vom Musikgeschäft zurück. In den 1990er Jahren hatte er ein erfolgreiches Comeback, spielte ein neues Album ein und ging auf Tournee.
Gärdestad hatte zwei Kinder aus einer Beziehung mit der Schauspielerin Ann Zacharias. Er starb 1997 durch Suizid, indem er sich vor einen fahrenden Zug warf. Er litt seit Jahren an paranoider Schizophrenie.
Die meisten seiner Songs schrieb er zusammen mit seinem Bruder Kenneth Gärdestad.