Harvard oli kotoisin Lontoon Southwarkista. Harvardin isä Robert ja suurin osa sisaruksista menehtyi ruttoon vuonna 1625. Hän kirjoittautui opiskelijaksi Cambridgen yliopistonEmmanuel Collegeen joulukuussa 1627. Hänelle myönnettiin Cambridgesta Bachelor of Arts -tutkinto 1632 ja Master of Arts -tutkinto 1635.[2][1]
Harvard meni huhtikuussa 1636 naimisiin Ann Sadlerin kanssa. Vuonna 1637 Harvard muutti Uuteen-Englantiin. Hän työskenteli Charlestownin ensimmäisessä kirkossa.[3]
Harvard kuoli tuberkuloosiin vuonna 1638. Hän oli Englannista saadun perinnön myötä suhteellisen varakas verrattuna muihin siirtokunnan asukkaisiin. Harvard testamenttasi puolet omaisuudestaan sekä kirjakokoelmansa läheisessä New Townessa vuonna 1636 perustetulle oppilaitokselle. New Towne nimettiin pian Cambridgeksi ja vuonna 1639 oppilaitos nimettiin Harvard Collegeksi ensimmäisen merkittävän lahjoittajansa mukaan.[1]
John Harvardista ei ole säilynyt aikalaismuotokuvia, joten hänen ulkonäkönsä on jäänyt tuntemattomaksi. Harvardin muistoksi on tehty lasimaalaus Emmanuel Collegen kappeliin 1884 ja veistos Harvardin yliopiston kampukselle 1884, mutta näiden muistomerkkien malleina ovat olleet muut henkilöt.[2]