Ta oli hilisema keisri Ludwig IV sõber, kuid sattus peale keiser Heinrich VII surma tollega konflikti ning kandideeris tema vastasena Saksa-Rooma valitsejaks. Lõpuks valiti kuningaks Ludwig, kuid Friedrich seda ei tunnistanud ning jätkas temaga sõda. 1322. aastal sai ta lüüa ning võeti Ludwigi poolt vangi. 1325 vabanes ta vangist, kuid saabus Saksa kuninga juurde Münchenisse siiski vangina, austades oma vannet tollele. Seepeale otsustas Ludwig oma sõpruse temaga taastada ning teha ta oma kaasvalitsejaks. 1326. aastal sõlmitud leppe kohaselt pidi Friedrichist saama Saksa kuningas ja Ludwigist Saksa-Rooma keiser. Tegelikult loobus Friedrich aga kohe oma võimust Saksa-Rooma riigi üle ning tegutses 4 oma viimast eluaastat peamiselt Austria valitsejana (tema sealne kaasvalitseja, vend Leopold, suri 1326. aastal).