Han ble student i 1824, cand. med. i 1831, deretter militærlege i Finnmark fra 1831 til 1832.[3] I Finnmark fikk han i oppdrag å forebygge at den alvorlige koleraepidemien som raste i Arkhangelsk i det nordlige Russland, skulle spre seg over grensen til Norge.[3] Fra 1833 til 1846 var han militærlege i Skien, med et studieavbrudd på ni måneder da han i 1838 reiste til Paris og blant annet studerte fødselshjelp.[3] Etter å ha kommet hjem tok han lisensiatgraden i 1841 og doktorgraden i 1842. Han var den fjerde personen som tok den medisinske doktorgrad ved Det Kongelige Frederiks Universitet.
Hans virksomhet ble preget av rikt initiativ, som blant annet ga seg utslag i hans kamp mot barselfeberepidemiene. Han godtok imidlertid ikke Semmelweiss' teori om at barselfebersmitte kunne overføres av fødselshjelpere som ikke vasket seg før de startet behandling av en ny pasient.[3]
På hans foranledning opprettet man Børnehospitalet i Christiania (1855) samt Fødselsstiftelsen i Bergen med tilhørende jordmorskole.[3] Allerede i 1844 utga han en «Lærebog i Fødselsvidenskaben for Jordemødre», som kom til å brukes i årtier. Han var dessuten en betydelig administrativ kraft, som ble mye benyttet i offentlige verv, kommisjoner og lignende. Han foranlediget at Videnskabsselskabet i Kristiania ble stiftet ved at han i 1856 anonymt tilstilte 4000 kroner som grunnfond for et slikt selskap. Faye utfoldet en rik litterær virksomhet, som strakte seg over alle medisinens felter, men interesserte seg særlig for hygieniske spørsmål. Han studerte militær hygiene på Krim1854, etter at han som feltlege på Als hadde deltatt i den dansk-tyske krig i 1848.