John Harsanyi sa narodil v Budapešti. Maturoval na Fasorskom gymnáziu a v štúdiu pokračoval na Budapeštianskej univerzite (dnes Univerzita Loránda Eötvösa). V roku 1942 úspešne ukončil štúdium medicíny. Počas okupácie Maďarska v druhej svetovej vojne, bol Harsányi od mája do novembra 1944 nútený pracovať v pracovnom oddieli. V novembri 1944 nacisti rozhodli, že celá jeho jednotka bude presunutá do Rakúska (kde väčšina jej členov neskôr zahynula), Harsányimu sa však podarilo ujsť ešte pred odjazdom vlaku z Budapešti a ukryl sa v jednom jezuitskomkláštore u pátra Jakaba Raileho.
V roku 1946 sa vrátil na univerzitu a v roku 1947 získal doktorát z filozofie a pôsobil na univerzite ako pomocný učiteľ. Tu spoznal aj svoju budúcu manželku, študentku Annu Klauberovú.