Casou coa princesa grega Theofano, sobriña do emperador romano de oriente Xoán I Tzimisces, o 14 de abril de 972. Logo de participar nas campañas do seu pai na Península Itálica, volveu a Alemaña e converteuse no único emperador sen ningún tipo de oposición trala morte de seu pai en maio de 973.
Odón proseguiu a política do seu pai no sentido de fortalecer o dominio imperial na Xermania, ademais de estendela de xeito máis profundo na Península Itálica.
Alemaña
Logo de sufocar unha rebelión en Lorena, xurdiron dificultades no sur de Alemaña, probablemente debido a que Odón refusou entregar o ducado da Suábia a Henrique II de Baviera. En 974 a nai de Henrique, Judite, iniciou unha conspiración contra o emperador, a cal incluíu Henrique, o bispo Abraham de Freising, duques de Bohemia e Polonia, e varios membros do clero e da nobreza que estaban descontentos coa política do emperador. Entre tanto, o plan foi descuberto e facilmente suprimido. No mesmo ano, as forzas de Odón conseguiron acabar cunha tentativa de Harald I de Dinamarca de liberase do dominio alemán; así e todo, a súa expedición contra os bohemios en 975 foi un fracaso parcial debido ao inicio de máis problemas en Baviera. Ao ano seguinte restabeleceu a orde unha segunda vez en Lorena e forzou a Henrique II a fuxir de Regensburg a Bohemia. Baviera foi entregada ao seu parente Odón de Baviera. En 977, o rei realizou unha expedición a Bohemia, onde o rei Boleslaus II prometeu volver á súa alianza anterior. Mieszko I de Polonia tamén foi subxugado.
Tras acabar con outra tentativa de Henrique por recuperar Baviera por parte de Odón II, o rei Lotario de Francia invadiu Lorena cun exército de 20 000 homes e ocupou a capital Aachen durante cinco días. Odón inicialmente fuxiu a Colonia e logo a Saxonia. A súa nai, de orixe francesa, estivo do lado de Lotario e se mudou a Borgoña. En setembro de 978, con 30 000 homes, Odón invadiu Francia. Encontrou pouca resistencia, mais as enfermidades das súas tropas obrigárono a levantar o cerco de París e na viaxe de volta, a retagarda do seu exército foi destruída, e os bens que transportaban tomados polos franceses. A unha expedición contra os polacos seguiulle unha paz con Francia: Lotario renunciou a Lorena (980), e en cambio, Odón recoñeceu os dereitos do fillo de Lotario, Luís V.
Italia
Odón sentiuse entón libre para marchar sobre a Itália. O goberno de Alemaña foi deixado nas mans do arqui-chanceler Willigis e do duque Bernardo I de Saxonia. El foi acompañado da súa dona, o seu fillo, Otto de Baviera, dos bispos de Worms, Metz e Merseburg e outros condes e baróns. Cruzando os Alpes a través do que hoxe é Suíza, reconciliouse coa súa nai en Pavia e celebrou o Nadal de 980 en Rávena.
Odón tivo nesta cidade unha corte espléndida, frecuentada por príncipes e nobres de tódalas partes de Europa Occidental. Entón solicitouse que combatera os ataques sarracenos en Itália e, sobre todo, a política agresiva do emir siciliano Abu al-Qasim, cuxa frota estaba atacando Apúlia e cuxas tropas invadiran Calabria. En setembro de 981, Odón marchou cara ao sur de Italia. Inicialmente viuse cercado polos conflitos entre os príncipes lombardos locais, que dividiran a área trala morte de Pandolfo. Odón fracasou no cerco de Manso I de Amalfi en Salerno, mais por fin obtivo o recoñecemento da súa autoridade por parte de tódolos principados lombardos. En xaneiro de 982, as tropas alemás marcharon en dirección a Apúlia bizantina para anexar esta rexión ao Imperio Occidental.
Cando Odón saíu de Taranto, sufriu unha grande derrota preto de Stilo en xullo de 982 (na cal, entre outros, al-Qasim morreu). Sen revelar a súa identidade, o emperador escapou nun navío grego ata Rossano. Volveu a Roma o 12 de novembro de 982.
Nun xantar en Verona en xuño de 983, no medio de diversos príncipes alemáns e italianos, o seu fillo Odón III foi confirmado como rei de Alemaña. Foi entón cando se preparou para outra campaña contra os sarracenos. Tamén obtivo un acordo coa República de Venecia, cuxo auxilio era moi necesario trala derrota en Stilo. Marchando cara Roma, Odón conseguiu garantir a elección de Pedro de Pávia como Papa Xoán XIV.
Cando chegaron noticias dun alzamento das tribos eslavas na fronteira oriental de Alemaña, morreu no seu palacio en Roma o día 7 de decembro de 983. Deixou ao futuro emperador Odón III e tres fillas. Foi enterrado no adro da Basílica de San Pedro e, cando a igrexa foi reconstruída, os seus restos mortais foron levados á cripta.