Han er utdannet skipsbygger fra 1969 samt maskinist fra 1974. Han var selvstendig næringsdrivende som skipsbygger 1965–1973.[3] I 1975 tok han over farens bygg- og anleggsvirksomhet sammen med broren Kristian Arnfinn Petersen. Firmaet tok navnet J. & K. Petersen og vokste til et Færøyenes største entreprenørfirmaer med over 100 ansatte.[4]
Petersen måtte trekke seg som fiskeriminister i 1998 etter anklager om voldtekt av en 17 år gammel jente mens hun bodde på hybel i hans hjem i 1995.[6] Petersen hevdet at samleiet hadde vært frivillig, og nektet straffeskyld, men måtte etter hvert bøye av for presset og trekke seg fra ministerposten. Han ble senere dømt til 10 måneders fengsel og 30 000 danske kroner i oppreisning til jenta.[7][8] I juli 1999 fikk han avslag på søknaden til Justisdepartementet om å få prøvd saken sin for Højesteret.[9] Med dette trakk han seg også fra Lagtinget, og Eyðun Viderø møtte resten av perioden.