Harminc kam zur Welt in einer slowakischen Familie im Dorf Kulpin im damals ungarischen Komitat Bács-Bodrog. Die Volksschule absolvierte er in seinem Heimatort, danach besuchte er 1881–1882 eine deutsche Schule in Bulkes (heute Maglić) sowie deutsche Handelsakademie in Neusatz zwischen 1882 und 1883.
1886 ließ er sich in Budapest nieder und arbeitete für die Firma Neuschloss (1886–1890) und für Architekten Ján Nepomuk Bobula (1893–1894) und Albert Schickedanz (1894–1897) und war mit dem Letzteren unter anderem an Vorbereitungen für die ungarische Millenniumsfeier im Jahr 1896 beschäftigt. Des Weiteren trat er 1887 dem Slowakischen Verein in Budapest bei und war mit der slowakischen Nationalbewegung verbunden.[1] 1897 gründete Harminc sein eigenes Architektenbüro in Budapest und entwarf vor allem Privat- und Wohnhäuser in Budapest, in der heutigen Slowakei mit dem Schwerpunkt in Komitaten Turz und Liptau.
1904 heiratete er Anna Holcová aus Sillein. Aus der Ehe gingen drei Kinder hervor. 1908 bestand er eine architektonische Prüfung und zog 1915 nach St. Nikolaus in der Liptau um. Von 1922 bis zur Pensionierung im Jahr 1951 war er als allein arbeitender Architekt in Bratislava tätig, wo er ebendort am 5. Juli 1964 starb. Bestattet ist er im Gaistor-Friedhof.