Han gjennomførte den grunnleggende skolegang i Mosėdė og deretter i Parupė (i Latvia). Så begynte han på seminar i Sankt Petersburg. Etter å man hadde lagt merke til den unge mannens talenter, ble han sendt til Det geistlige akademi, der han tok mastergrad i teologi.
Siden 1888 var han sjelesørger for katolikkene i guvernementet Samaras fem fylker, etablerte et tysk sogn, to kapeller med skoler og et kapell for litauere. I St. Petersburg forsvarte han i tillegg til sjelesorg og undervisning på morsmålet, også litauernes og latviernes rett til å benytte sine egne språl i kirkelig sammenheng. Han deltok i det litauiske sosiale liv, og fikk inn for selvhjelps- og veldedighetsarbeide.
Den 27. februar 1914 utnevnt til biskop av Žemaicai. Etter tiltredelsen forordnet han bruken av det litauiske språk i katedralen, i biskopens palass, ved offentlige møter med prester, og bekreftet dette for menighetenes del også. I løpet av de 12 årene da han styrte bispedømmet Žemaicai, innviet han 39 nye kirker. I tillegg til omsoprgen for ordenslivet tok han seg spesielt av utdanning, presse, samfunn, avholdsarbeide, enhetlig sang, og han innførte en felles katekisme. Han ga sine inntekter til veldedighet. I 1918 gjorde han seg diplomatiosk fortjent ved sin deltakelse i seneferden til Tyskland der det ble forhandlet med landets fremste militære og sivile myndigheter, Paul von Hindenburg, Erich Ludendorff og Matthias Erzberger. Det munnet ut i at Tyskland den 23. mars samme år anerkjente Litauen som selvstendig stat.
I 1918, før erklæringen som gjenopprettet Litauens uavhengighet, innviet han fanene for de første regimentene i den litauiske hær. Han deltok ved åpningen av den konstituerende Seimas i Litauen i 1920, og støttet landreformen som fulgte de neste par årene.
Fratreden
Den 22. februar 1926, etter delingen av Žemaičiai bispedømme og opprettelsen av tre etterfølgerbispedømmer i stedet for det ene, overlot han bispetronen for Kaunas' erkebiskop til en yngre biskop, hans assistent Juozas Skvireckas.
Pavestolen opphøyde ham deretter til titulærerkebiskop av Skythopolis. Biskop Karevičius sluttet seg til marianerne og slo seg ned i Marijampole.
Han bidro med artikler til publikasjonene «Draugija», «Vadovas», «Sargyba», «Shaltinis» og «Tiesos kelias».
