Рођен је 23. јула 1914. године у Крижу код Коменде, Камник. Потиче из сељачко-радничке породице. Младост је провео код оца у Нотрањској. Основну школу је похађао у Бегуњама код Церкнице и завршио пет разреда. Затим је живео код мајке у Љубљани и стекао стручно образовање за хируршког техничара.
Године 1935. био је запослен у фабрици „Сава“, где је учествовао у штрајку солидарности јесеничких радника гвожђаре. Године 1935. и 1936. служио је кадровски рок у Загребу. После повратка из војске, запослио се у фабрици „Унитас“ у Љубљани и учествовао у изборима радничких повереника. Године 1938. запослио се у фабрици „ЕКА“ у Љубљани. Тада је учествовао у демонстрацијама против нацистичке Немачке, која је тих дана анектирала Аустрију и раскомадала Чехословачку. Године 1940. ступио је у Друштво пријатеља Совјетског Савеза.
Народноослободилачка борба
Приликом распада југословенске војске у Априлском рату, био је у Великој Горици код Загреба. Када се вратио кући, прикључио се онима који су почели да скупљају и скривају оружје, опрему и други војни материјал. Маја1941. године постао је кандидат за члана комунистичке партије Југославије, а месец дана касније примљен је у Партију.
У фабрици „ЕКА“ био је повереник за војна питања, а од новембра 1941. повереник „Делавске енотности“. Од јануара1942. године, био је секретар партијске ћелије у фабрици и у исто вријеме члан Рејонског комитета КП СловенијеБежиград у Љубљани. Пред одлазак у партизане, био је командант батаљона Народне заштите Рожна Долина.
13. јула 1942. године ступио је у Народноослободилачку војску, у Прву чету Првог батаљона Долењског одреда и био помоћник митраљесца. Октобра 1942. године, постао је политички комесар чете у Трећем батаљону „Шерцерове бригаде“, а затим заменик политичког комесара Трећег батаљона. 13. јула 1943. године постао је политички комесар „Шерцерове бригаде“ и вршио ту функцију до капитулације Италије.
После капитулације Италије, за неколико дана су биле отворене цесте и ограда од бодљикаве жице којом је била окружена Љубљана и на хиљаде Љубљанчана је ступило у партизане. Већи дио придошлица окупио се на Голом, изнад Ига, где је 10. септембра 1943. године формирана Љубљанска бригада. Главни организатор и оснивач бригаде био је Јанко Рудолф, који је био именован за првог политичког комесара бригаде. Љубљанска и „Цанкарева бригада“ истакле су се у борбама против Немаца, 1. и 2. новембра на Илови гори. Јанко је децембра 1943. постао командант Осамнаесте дивизије НОВЈ, а фебруара 1944. комесар исте дивизије.
Поред тога је био потпредседник Савезног одбора СУБНОР Југославије, члан Председништва Централног комитета СК Словеније. Био је члан Председништва СУБНОР Југославије, члан Председништва СУБНОР Словеније и члан Савета федерације.