Giovanni Battista de Rossi föddes i Rom som son till Commendatore Camillo Luigi De Rossi och Marianna Marchesa Bruti. Han företog sina grundläggande studier i Rom, fortsatte vid jesuiternasCollegio Romano och därefter vid Sapienza, där han blev 1843 doctor utriusque juris ad honorem och sedermera professor.
Utrustad med ovanligt skarpsinne och stor viljekraft, ådrog han sig redan tidigt den lärda världens uppmärksamhet genom sina tidskriftsartiklar, i vilka han redogjorde för sina upptäckter i och omkring Rom. Särskilt slog han sig på studiet av de äldsta kristna minnesmärkena. För katakomberna och kristendomens urhistoria samt den äldsta församlingsorganisationen är hans arbeten epokgörande. Hans husvudverk i dessa ämnen är Martyrologium Hieronymianum, Inscriptiones christianæ urbis Romæ septimo sæculo antiquiores (1857-61) samt Roma sotterranea cristiana (1864-77). Från detta arbete har alla de många senare verk, som behandlat Roms kristna katakomber, i stor utsträckning hämtat sina uppgifter. Hans Codicum latinorum bibliothecae Vaticanae används av Vatikanbiblioteket som register över dess handskrifter.