Da han besteg tronen etter sin bror, og på grunn av økende intern strid innen Den gylne horde, lekte Ivan en kort stund med tanken på å forlate Moskvas tradisjonelle troskap til mongolene og alliere seg med Litauen, en framvoksende makt i vest. Idéen ble imidlertid raskt forlatt og Ivan bekreftet sin troskap til Den gylne horde.[4]
Basert på samtidige beskrivelser framstår Ivan som en fredfull, apatisk hersker, som ikke engang reagerte da Algirdas av Litauen erobret hans svigerfars hovedstad, Brjansk.[5] Han tillot også Oleg av Rjazan å brenne landsbyer på sitt territorium. Ortodokse geistlige hjalp imidlertid til med konsolideringen av Storfyrstens makt. Han mottok mye støtte fra den dyktige metropolitten Aleksij. Som sin bror var Ivan II ikke like suksessrik som sin far og bestefar med hensyn til territoriell ekspansjon. Han klarte imidlertid å annektere områder sørvest for Moskva, herunder Borovsk og Vereja.
Ivan var gift to ganger. I 1341 ble han gift med Fedosia Dmitrijevna av Brjansk. Hun var datter av Dmitrij Romanovitsj, fyrste av Brjansk. Hun døde barnløs høsten 1342.
Ivan forble enkemann i tre år. I 1345 giftet han seg med Aleksandra Ivanovna Veljaminova. Hun var datter av Vasilij Veljaminov, borgermester av Moskva. De hadde minst fire barn:
Ljuba Ivanovna – tok navnet «Anna» etter sitt ekteskap med Dmitrij Mikhailovitsj, Fyrste av Volhynia (død 1399). Hennes ektemann var sønn av Karijotas.
Ivan Ivanovitsj – Fyrste av Zvenigorod (ca. 1356 – oktober 1364).
