2. märtsil1922 valiti ta valitsusjuht Josef Ospelti asetäitjaks. Kui Ospelt 26. aprillil samal aastal Liechtensteini Maapäeva poolt ametist vabastati, nimetati uue valitsusjuhi määramiseni peaministri kohusetäitjaks Alfons Feger. Tema volitused jõustusid sama aasta 4. maist. Teadmata põhjustel lahkus ka Feger ise ennetähtaegselt oma kohusetäitja ametist ja 1. juunil nimetati tema asemel ajutiselt valitsust juhtima Felix Gubelmann.
Alfons Feger jätkas tööd valitsuse liikmena ja oli Gustav Schädleri valitsuses aastatel 1923–1928 taas valitsusjuhi asetäitja.
