John Carroll wurde als viertes von sieben Kindern des Kaufmanns und Pflanzers Daniel Carroll und dessen Frau Eleanor Darnall in Upperland Marlboro, Maryland geboren. Seine erste schulische Ausbildung erhielt John Carroll durch seine Mutter. 1748 wurde er im Alter von zwölf Jahren an die Jesuitenschule von Saint-Omer im Norden Frankreichs geschickt und trat 1753 selbst in den Jesuitenorden ein. Am 14. Februar 1761 empfing er in Lüttich die Priesterweihe und lehrte ab 1762 Philosophie an der englischen Hochschule in Lüttich und später in Brügge. Carroll unterrichtete und predigte fast bis zu seinem 40. Lebensjahr in Europa.
Carroll blieb bis zu seinem Tode am 3. Dezember 1815 im Amt des Erzbischofs und erreichte viel für die Katholiken der noch jungen USA. Vor allem die Bildung des Volkes und des katholischen Klerus lag ihm am Herzen. Neben zahlreichen Schulen gründete Carroll die Georgetown University (1789).
Verschiedene Vertreter der weit verzweigten Familie von John Carroll hatten bedeutende politische Posten inne und spielten eine große Rolle in der Kolonialgeschichte von Maryland.
Johns Großvater, der als „Founder“ bekannt wurde, war 1688 wegen der strengen Katholikengesetze von Irland nach Maryland emigriert und diente seitdem Charles Calvert, 3. Baron Baltimore, als Militärbeauftragter.
Durch seinen Vater ist John Carroll mit dem in den USA bekannten Carroll Clan von Baltimore verwandt. Sein Cousin Charles Carroll (1737–1832) war ein Mitunterzeichner der Unabhängigkeitserklärung der USA von 1776.
Siehe auch
EnzyklikaSertum laetitiae (1. November 1939) von Papst Pius XII. zum 150. Jahrestag der Einsetzung des ersten katholischen Bischofs in den Vereinigten Staaten von Amerika