Felber deed in 1967 zijn intrede in de federale politiek toen hij in de Nationale Raad werd gekozen. Van 1980 tot 1981 was hij fractievoorzitter van de SP in de Nationale Raad. In 1981 trad hij als parlementslid af en werd in de Regeringsraad (kantonnale regering) van het kanton Neuchâtel gekozen. Tijdens zijn lidmaatschap van de Regeringsraad (1981-1987) beheerde hij het departement van financiën en Kerken. Van 1 juni1984 tot 20 mei1985 was hij voorzitter van de Regeringsraad.
Als minister van Buitenlandse Zaken streed hij voor Zwitserland's toetreding tot de Europese Unie, maar tijdens een referendum op 6 december1992 wees de meerderheid van de Zwitsers toetreding tot de EU af.
.svg){kind=small}
.svg){kind=small}
