Ychydig a wyddir am ei fywyd personol, ond credir bod ei deulu'n hannu o Frigia (Anatolia). Roedd o deulu ecwestraidd cyfoethog, a llwyddodd i godi ei safle ddigon i ddod yn aelod o'r Senedd. Roedd ganddo ddau blentyn, Marcus Antonius Gordianus (Gordian II) a Maecia Faustina a ddaeth yn fam Gordian III.
Yn ystod teyrnasiad Alexander Severus, penodwyd Gordian (oedd eisoes yn 80 oed) yn broconswl Affrica. Tra'r oedd yn y swydd hon, lladdwyd Alexander Severis gan Maximinus Thrax, a gyhoeddwyd yn ymerawdwr. Nid oedd Maximinus yn ymerawdwr poblogaidd, a bu gwrthryfel yn Affrica yn 238, a gychwynodd yn ninas El Jem, cartref Gordian ar y pryd. Cyhoeddwyd Gordian yn ymerawdwr gyda'r teitl Africanus ar 22 Mawrth y flwyddyn honno, gan gymeryd ei fab yn gyd-ymerawdwr fel Gordian II. Cararnhaoedd y Senedd yn Rhufain ef fel ymerawdwr.
Fodd bynnag, roedd Capelianus, rhaglaw Numidia, yn parhau'n ffyddlon i Maximinus, ac ymosododd ar Affrica. Gorchfygwyd Gordian, a lladdwyd ei fab Gordian II yn y frwydr. Lladdodd Gordian ei hun yn fuan wedyn trwy grogi ei hun â'i wregys, wedi teyrnasiad o ddim ond 36 díwrnod.
