1920 alustas ta koos oma isa ja vennaga ülestõusu Hispaania koloniaalvõimu vastu. Tema eesmärk oli ühendada Rifi hõimud sõltumatusse Rifi vabariiki.
1921 saatis Hispaania valitsus väe Rifi enda kontrolli alla tagasi võtma. Seda juhtis kindralManuel Fernández Silvestre, kes seadis sõjaväeposti Abaráni mägedes olevale Amekrani jõele, mida Abd el-Krim oma valduste piiriks nimetas. Juunis 1921 ründasid Rifi väed umbes 250-mehelist sõjaväeposti, tappes 179 hispaanlast. Järgnevalt purustas Abd el-Krim juulis Melillast 40 km läänes toimunud Annuali lahingus kõigest 3 tuhande mehega 13-tuhandelise Hispaania sõjaväe, tappes 8 tuhat hispaanlast. Kindral Silvestre arvatavasti tappes enese, tulistades ennast pähe, kuid on ka väidetud, et ta langes vangi ja Abd el-Krim hukkas ta isiklikult. Silvestre surnukeha ei leitud.
1924. aastal oli Hispaania sunnitud oma positsioonidelt isegi Maroko rannikul tagasi tõmbuma. Tollane suurim koloniaalvõim Põhja-Aafrikas Prantsusmaa taipas, et ülestõus võib kergesti laieneda tema valdustesse (enamik tänapäeva Marokost kuulus Prantsusmaale), ja valmistus sõjaks. Aprillis 1925 tungiski Abd el-Krim oma vägedega Prantsusmaa Marokosse ja Prantsuse väed, mida juhtis marssalHenri Philippe Pétain, alustasid sõjategevust. Prantsuse ja Hispaania vägede suurus oli ühtekokku veerand miljonit meest, seevastu Abd el-Krimil ei ületanud see kunagi 80 tuhandet. Intensiivsed lahingud kestsid ligi aasta ning sealjuures kasutati berberite vastu keemiarelvi (sinepigaasi). Sõjas tapeti 84 tuhat berberit.
26. mail1926 alistus Abd el-Krim prantslastele, kes saatsid ta asumisele Réunioni saarele. 1947 lubati tal elada Lõuna-Prantsusmaal, kuid ta sai varjupaiga Egiptuses.
