Kaarle oli Ludvig Änkyttäjän poika. Kaarlea estettiin seuraamasta valtaistuimelle velipuoltaan Kaarlomania vuonna 884 ja vuonna 887 nousemasta setänsä Kaarle Paksun seuraajaksi. Sen sijaan Kaarle Paksua seurasi Eudes. Eräät aateliset kruunasivat kuitenkin Kaarle III:n kuninkaaksi 893 ja Odon kuoltua 898 hänestä tuli ainoa kuningas. Kaarle Yksinkertainen päätti viikinkien hävitysretket solmimalla Rollon kanssa vuonna 911Saint-Clair-sur-Epten sopimuksen, joka antoi normanneille osan myöhempää Normandiaa.
Vuonna 922 aateliset kapinoivat ja Kaarle joutui pakenemaan maasta. Kapinalliset kruunasivat Robert I:n frankkien kuninkaaksi. Lothringenissa maanpaossa ollut Kaarle kokosi armeijan Saksan kuninkaan Henrik I Linnustajan tuella ja marssi takaisin Ranskaan. Seuranneessa Soissonsin taistelussa 15. kesäkuuta 923 kruununtavoittelija Robert I kuoli, mutta Kaarle hävisi. Hän pakeni uudestaan maasta. Yrittäessään palata hänet vangittiin loppuiäkseen ja frankkien kuninkaaksi nousi Burgundin herttua Rudolf.