Seit 1954 hatte Herrick Orgelunterricht bei Sir John Dykes Bower, dem Organisten an St. Paul’s. Er setzte die Orgelausbildung während seines Besuchs der Cranleigh School fort und studierte von 1959 bis 1962 Musik am Exeter College in Oxford, danach am Royal College of Music. Daneben nahm er Cembalounterricht bei Millicent Silver, privaten Orgelunterricht bei Geraint Jones und studierte Dirigieren bei Sir Adrian Boult. Als Cembalist gründete er das Taskin Trio, mit dem er Barockmusik auf historischen Instrumenten aufführte, und führte in London das gesamte Wohltemperierte Klavier von Bach auf.
Zwischen 1989 und 1999 spielte Herrick für Hyperion das gesamte Orgelwerk Bachs auf Schweizer Metzler-Orgeln ein. Beim Lincoln Center Festival 1998 führte er Bachs gesamtes Orgelwerk in einer vierzehnteiligen Konzertreihe an der Kuhn-Orgel der Alice Tully Hall auf. An der Parisot-Orgel der Kirche Saint-Rémy in Dieppe nahm er die NoelsLouis-Claude Daquins auf, 2003 folgte eine Aufnahme des gesamten Werkes für Tasteninstrumente von Jan Pieterszoon Sweelinck am Nachbau einer Orgel des 17. Jahrhunderts in Schweden. 2007 begann Herrick mit einer Gesamtaufnahme der Orgelwerke Dietrich Buxtehudes.