1002年,亨利二世領軍支援在意大利遭遇政變的前任皇帝奥托三世,但未及抵達,奧托三世已突然病逝。在奧托三世的靈柩運返亞琛途中,途徑巴伐利亞時,亨利意圖威脅負責護送的科隆總主教克里伯(Heribert of Cologne)交出皇帝信物(包括皇冠、劍及最重要的聖槍),但這些信物已提前送到總主教屬意的下任皇帝人選士瓦本公爵赫爾曼二世(Herman II of Swabia)手中。在缺乏信物的情況下,亨利未能得到其他貴族的支持。兩星期後在奧托三世的喪禮中,亨利再次嘗試,但同樣失敗。最後,他請求美茵茨主教為自己加冕,成為「德意志國王」。他是奧托一世後首位不是在亞琛登基,且不是由貴族選出的德國國王。
亨利一面治理國政,一面致力進修聖德。他對修會生活非常嚮慕,渴欲離家修道,但一直被修院拒絕。後來他被本篤會凡爾登修院(Abbey of Saint-Vanne in Verdun)收錄為獻堂生(oblate),並到克呂尼修院發願成為修士。他向院長許諾,今後服從院長的領導,結果院長對他說:「很好,你既然服從我的領導。我派你作甚麼事,你就應當去做,現在我派你去治理國政。」[2]