Rognes markerte seg med matematikkferdigheter i ung alder. Allerede på ungdomsskolen avla Rognes artiumseksamen i matematikk. På videregående ble Rognes fritatt for fysikk og matematikk og tok heller kurs ved universitetet. Fra 1981 til 1984 vant han Abelkonkurransen tre ganger, og tok én andreplass. I 1983 tok han bronsemedalje i kjemiolympiaden i Timișoara, og i 1984 tok han bronsemedalje i matematikkolympiaden i Praha.
Som 19-åring fikk han graden cand.mag.Laudabilis prae ceteris, med snittet 1,09. Han dro deretter til Princeton University, der han tok en PhD som 24-åring med avhandlingen «The Rank Filtration in Algebraic K-theory».
I 1994 ble Rognes førsteamanuensis ved UiO, og fra 1998 har han vært professor. Han ble med det Norges yngste matematikkprofessor. Rognes' forskning dreier seg om topologisk matematikk og algebraisk K-teori. I 2004 ble han av de 26 som fikk femårsstipend som Yngre fremragende forskere av Norges forskningsråd. Fra 2010 til 2014 var har redaktør i Acta Mathematica. I 2014 var han invitert foredragsholder ved den internasjonale matematikerkongressen (ICM) i Seoul. Fra 2014 til 2018 var han leder for Abelkomiteen.