קרלומן היה בנם של לואי השני "המגמגם" מלך פרנקיה המערבית ושל אנסגרד מבורגונדיה. ב-879, לאחר מות אביו, ירש את הכתר יחד עם אחיו לואי, שמלך בשם לואי השלישי. בעקבות הסכם אמיין (מרץ 880) חולקה הממלכה בין שני האחים וקרלומן קיבל את חבל בורגונדיה ואת חבל אקוויטניה. אולם, בוזו הרוזן מארל התכחש לשבועת האמונים שלו למלך קרלומן ולמלך לואי השלישי והכריז על עצמו למלך פרובאנס. קרלומן ולואי יצאו למלחמה נגד בוזו, כבשו מידיו את העיר מקון שבבורגונדיה ושמו מצור על העיר ויין שבפרובאנס, אך ללא הצלחה (אוגוסט - נובמבר 880).
ב-882 נהרג המלך לואי השלישי בתאונה וקרלומן הפך למלך יחיד של פרנקיה המערבית. הממלכה הייתה נתונה לפלישות חוזרות ונשנות של הנורמנים שהשחיתו כל מה שנקרה על דרכם. כוחו של המלך קרלומן לעמוד בפניהם היה מוגבל, והאצילים הפיאודליים מרדו בו.
ב-884 המלך קרלומן נפל מסוסו ונהרג בעת שיצא לציד. הוא הוטמן בבזיליקת סן-דני שמצפון לפריז. היות שלא היו לו יורשים, החליטו אנשי הכנסייה והאצילים למסור את כתר ממלכת פרנקיה לקרל, בנו של הקיסר לואי מגרמניה, שמלך בשם קרל השלישי.