Джон Харбо и его младший брат, главный тренер «Сан-Франциско Форти Найнерс» Джим Харбо, стали первой в истории парой братьев, возглавившей клубы НФЛ[2]. 3 февраля 2013, в ходе розыгрыша Супербоула XLVII, «Балтимор Рэйвенс» под руководством Джона Харбо одержали победу над «Сан-Франциско Форти Найнерс» Джима Харбо со счетом 34-31.
В команду НФЛ он впервые попал в 1998 году, в качестве помощника главного тренера «Филадельфия Иглз». В 2004 году Джон Харбо вошел в число кандидатов на должность главного тренера команды Университета Западного Мичигана.
В 2007 году, после работы тренером специальных команд «Иглз», Джон становится тренером защитных беков. Эта позиция значительно улучшила его резюме и повысила шансы на занятие должности главного тренера, поскольку в то время руководители клубов считали тренеров специальных команд недостаточно квалифицированными для работы главным тренером. Действительно, 19 января 2008 года Харбо становится главным тренером команды «Балтимор Рэйвенс», но только после того, как координатор нападения «Даллас Ковбойс» Джейсон Гарретт отказывается от этой должности. До собеседования Джон Харбо не рассматривался в качестве подходящей кандидатуры, однако во время переговоров он смог произвести хорошее впечатление на владельца команды Стива Бискотти, и, кроме того, Джона рекомендовал главный тренер «Нью-Ингленд Пэтриотс» Билл Беличек. Это продвижение позволило Джону Харбо совершить редкий для НФЛ «прыжок» с должности тренера игроков отдельных позиций (тренера линии нападения, корнербеков, сэйфти и т. д.) на должность главного тренера, минуя работу в качестве координатора нападения или координатора защиты.
23 января 2008 года Харбо пригласил на должность координатора нападения тренера Кэма Кэмерона, у которого прежде работал в качестве помощника в университете Индианы.
7 сентября 2008 года Джон Харбо провел свою первую игру в качестве главного тренера «Балтимор Рэйвенс». Эта же игра в составе «Рэйвенс» была первой для квотербекаДжо Флакко. «Вороны» обыграли «Цинциннати Бенгалс», и эта была первая в истории НФЛ победа команды, в которой дебютировали одновременно главный тренер и квотербек.
Первый же сезон в Балтимор Рэйвенс оказался для Харбо чрезвычайно удачным. Он поставил рекорд команды по соотношениям побед/поражений в регулярном сезоне (11-5, этого хватило для того, чтобы получить Wild card и квалифицироваться в плей-офф). В самом плей-офф были одержаны победы над «Майами Долфинс» и «Теннеси Титанс», однако в игре за Ламар Хант Трофи «Рэйвенс» проиграли команде «Питтсбург Стилерз».
2009
26 января 2008 года Харбо назначил на должность координатора защиты «Рэйвенс» Грегга Мэттисона. Грегг заменил Рэкса Райана, занявшего пост главного тренера в «Нью-Йорк Джетс».
Второй сезон Харбо в «Рэйвенс» оказался почти таким же успешным, как первый. Джон вывел свою команду в плей-офф (соотношение побед/поражений — 9-7), выбил из турнира «Нью-Ингленд Пэтриотс», но в следующем же матче проиграл «Индианаполис Колтс».
2010
В 2010 году Харбо вновь вывел «Балтимор Рэйвенс» в плей-офф, однако, как и в прошлом году, «Воронам» не удалось одержать больше одной победы в финальной части турнира.
Регулярный сезон «Рэйвенс» закончили со статистикой 12-4, одержали победу над «Канзас-Сити Чифс», но проиграли в следующем раунде «Питтсбург Стилерз» 31-24, выигрывая после первой половины с разницей в 14 очков.
2011
14 февраля 2011 года Харбо на три года продлил свой контракт с «Балтимор Рэйвенс».
В этом же году «Рэйвенс» повторили своё прошлогоднее достижение по соотношению побед/поражений (12-4). Это позволило им, впервые за долгие годы, стать лидерами дивизиона.
Однако, лишняя неделя отдыха перед плей-офф не принесла ожидаемого результата: команда Джона Харбо проиграла матч за выход в Супербоул «Нью-Ингленд Пэтриотс».
В 2011 году состоялась первая встреча братьев Харбо в качестве тренеров соперничающих команд: «Балтимор Рэйвенс» Джона победили «Сан-Франциско Форти Найнерс» Джима со счетом 16-6.
2012
Джон Харбо вывел свою команду в плей-офф через Wild card (была получена после победы над «Индианаполис Колтс»), и «Балтимор Рэйвенс» последовательно обыграли «Денвер Бронкос» и «Нью-Ингленд Пэтриотс». Это дало возможность Джо Харбо в очередной раз сразиться с командой своего брата в ходе Супербоула XLVII, названного журналистами и болельщиками «Харбоулом»[3].