Im Alter von neun Jahren begann Rose bereits mit dem Drehen von Super-8-Filmen. 1975 gewann er einen von der BBC ausgeschriebenen Amateurfilmer-Wettbewerb und bekam dadurch die Gelegenheit, seine bisherigen Aufnahmen auszustrahlen. Er arbeitete für Jim Henson bei der letzten Staffel der Muppet Show und bei dessen Film Der dunkle Kristall. 1982 machte er an der National Film and Television School seinen Master und arbeitete danach als Regisseur von Musikvideos für MTV.
1988 drehte er mit Paperhouse seinen ersten Spielfilm.
Seinen Durchbruch hatte er 1992 mit dem inzwischen zum Kult avancierten Horrorfilm Candymans Fluch. Sein nächstes Filmprojekt war Ludwig van B. – Meine unsterbliche Geliebte, bei dem er auch am Drehbuch mitwirkte, gefolgt von Anna Karenina mit Sophie Marceau in der Hauptrolle. Mit seiner modernen Verfilmung von Tolstois Novelle Die Kreutzersonate gelang Rose 2007 eine thematische Verknüpfung des russischen Schriftstellers mit Ludwig van Beethoven, die zuvor die Inspiration für zwei seiner wichtigsten Filme gegeben hatten.
2012 führte Rose Regie bei der deutsch-italienischen Koproduktion Der Teufelsgeiger über das Leben des Geigenvirtuosen Niccolò Paganini. Der Film mit David Garrett in der Hauptrolle kam im November 2013 in die deutschen Kinos.
