I 1850 fikk Furuhjelm en ny stilling i Russisk-Amerikansk Selskap som Novoarkhangelsk havnets kommanderende og seilte fra Kronstadt til Novoarkhangelsk ombord på skipet «Nikolaj I». Han ankom til Novoarkhangelsk i april 1851 og seilte derfra til Hawaii, California og Kina på vegne av Russisk-Amerikansk Selskap. I 1854 han var ansatt i havnetskommanderende i Ajansk og i 1858 ble han Russisk Alaskas guvernør. I løpet av hans ledelse på Alaska bidro han til utvikling av skipsbygging, knyttet gode naboforhold med indianere, prøvde å forsone fiendtlige sider. I 1859 Furuhjelm ble gift med Anna von Shoultz. I løpet av 5 år i Alaska fikk ekteparet Furuhjelm tre døtre. Den eldste, Anni Furuhjelm, senere ble en av hovedpersoner i internasjonal kvinnebevegelse og medlem av Finlands Parlament.
I 1864 Johan Furuhjelm overga sine guvernørs plikt til Dmitrij Maksutov som ble den siste Alaskasguvernør. Sommeren 1864 familie Furuhjelm dro til Russland. I 1865-1870 Furuhjelm tjenestegjorde som militærguvernør i Primorskij Kraj. I februar 1871 var han ansatt i sjef av russiske havn på Stillhavet. I denne perioden bidro han meget til utvikling av Vladivostok og Primorskij Kraj, åpnet Amur Telegraph Company, flere fyr og skipdokker. I 1872–1874 var han flagmann på Den Russiske Østersjøflåten. I 1874–1876 Johan Furuhjelm var guvernør av byen Taganrog i Sør-Russland hvor han åpnet det første bibliotek. Blant besøkere av biblioteket var den berømte forfatteren Anton Tsjekhov. I 1878–1880 Furuhjelm tjenestegjorde som kommanderende av havnen i Revel, det russiske navnet for Tallinn.
