Sefydlwyd y ddinas yn y cyfnod Rhufeinig. Tua 11 CC, roedd uned o'r fyddin Rufeinig a gwersyll ar y safle, a chyn hynny roedd aelodau o lwyth yr Ubii wedi eu sefydlu yma gan y fyddin. Efallai fod yr enw LladinBonna yn dod o enw'r llwyth arall yn yr ardal, yr ,Eburones. Yn ddiweddarach, datblygodd sefydliad milwrol mawr o'r enw Castra Bonnensis. Hon yw'r gaer Rufeinig fwyaf o'i math y gwyddir amdani.
Wedi'r Ail Ryfel Byd, pan rannwyd yr Almaen, dewiswyd Bonn yn brifddinas Gorllewin yr Almaen gan Konrad Adenauer, oedd yn frodor o'r ardal.
Mae Bonn hefyd yn nodedig fel man geni'r cyfansoddwr Ludwig van Beethoven; gellir gweld y tŷ lle ganed ef yn y Bonngasse.