For å sikre seg noe bedre økonomi, gav han samtidig undervisning. Han underviste på Bogstad for Grev Wedel-Jarlsbergs to sønner i 1821–22, og pengene brukte han på å hjelpe sin yngre bror Jan Theodor Kielland.
Kielland og Brødremenigheten
I studietiden kom Gabriel over noen skrifter utgitt av Brødremenigheten, og et sammentreff kan ha lagt grunnlaget for at han resten av sitt liv framsto som pionér for misjonssaken.
Gabriel fikk et nært forhold til forstanderenNiels Johannes Holm, og i april 1823 ble han opptatt som medlem i menigheten. Misjonstanken er grunnleggende for Brødremenigheten, og allerede i desember 1826 bidro Gabriel til å stifte Forening i Stavanger til Guds Riges Udbredelse blant Hedningerne, den aller første misjonsforening i Norge – (Stavanger misjonsforening).
Året etter (1824) giftet han seg med Gustava Blom. Samme år ble han sogneprest på Finnøy og Talgøy, 29. mars1824. Her hadde han flere unge gutter i huset, og han gav dem undervisning til artium. En av disse var den seinere biskopAndreas Grimelund som skrev:
Både i kirke og på husbesøk søkte han å ruske folk opp av den egenrettferdighetens søvn, hvori rasjonalismen dysset dem.
Det ble vekkelse, og han begynte å holde oppbyggelige møter i prestegården. Selv om biskopen nedla forbud mot slike forsamlinger utenfor kirkerommet, ble de gjenopptatt da det kom ny biskop.
På Finnøy fikk han i stand et sogneselskap, med seg selv som formann, og han skaffet folk blant annet ulike frøsorter.
Sommeren 1827 reiste Gabriel til Danmark for å besøke venner og slektninger, blant annet i Herrenhuter-landsbyen Christiansfeld.[3]
Prest i Lyngdal
Stillingen som sokneprest på Finnø hadde han frem til 1837. Da ble han kalt til sokneprest i Lyngdal, en stilling han hadde til sin død i 1854. I Lyngdal sto presteparet i spissen for varige forandringer, både lokalt og nasjonalt. Andre juledag 1837 ble Lyngdal Afholdsforening stiftet på kirketrappa, og det ble dannet misjonsforeninger ved hver av kirkene i sognet.
Den 12. oktober1841 førte Gabriel i pennen et sirkulære med oppfordring til å samle lokale misjonsforeninger, og han utformet innbydelsen til «Norges samtlige Missionsvenner» 21. mai1842 om å skulle samles i Stavanger. Det Norske Misjonsselskap ble stiftet der 9. august1842. Selv ble han valgt inn i hovedstyret.
I 1850 reiste han sammen med sin kone på rekonvalesens til Tyskland. Han kom frisk hjem, men sykdom meldte seg snart igjen, og han døde i 1854.
Hans enke, Gustava Blom, skrev dette diktet etter hans død:
Lyngdal kirke (bygd i 1848) ble tegnet av Gabriel K. Kielland
Han fremmet tro sin Herres Værk
Paa hver en Maade han vidste,
Hans Legem var svagt; hans aand var stærk
Han virkede til det sidste.
Men stille brændte den indre Ild,
Den slog ikke ud i Flamme;
Den var en Glød, saa hed, saa mild
Og stedse var den den samme;
Hvor helst blant de sorte Kul den laa,
Begyndte de strax at gløde,
Guds aand selv blæste med Kraft derpaa,
Og vækkede Liv av Døde.
Et utvalg av hans etterlatte brev og skrifter ble utgitt av sønnen Hjalmar under tittelen: «En gammel prests efterlatte papirer» (1922). Gabriel K. Kielland førte en omfattende brevveksling med venner i Norge og utlandet, og han oversatte bl. a. en verdenshistorie for skole og familier fra tysk.
Gabriel K. Kielland var arkitekt for den nye kirken i Lyngdal, som ble bygd i 1848.
