Van Riemsdyk spielte während seiner High-School-Zeit für die Christian Brothers Academy und den Brick Hockey Club, die beide im US-Bundesstaat New Jersey beheimatet waren. Zur Saison 2005/06 wechselte er ins USA Hockey National Team Development Program des US-amerikanischen Eishockeyverbandes, wo er die verschiedenen Juniorennationalmannschaften durchlief. Dadurch nahm er 2006 an der U18-Junioren-Weltmeisterschaft teil. Dort besiegten die US-Amerikaner, unter anderem auch mit den späteren Erstgewählten der NHL Entry Drafts2006 und 2007Erik Johnson und Patrick Kane, im Finale Finnland mit 3:1 und gewannen den Weltmeistertitel. Im darauffolgenden Jahr spielte van Riemsdyk sowohl bei der Weltmeisterschaft der U18-Junioren, bei der er die Silbermedaille gewann und sich mit seinem Teamkollegen Colin Wilson den Titel des Topscorers teilte, als auch bei der Weltmeisterschaft der U20-Junioren, wo er die Bronzemedaille gewann.
Zum Ende der Saison 2008/09 debütierte der Angreifer im Profibereich, als er elf Spiele für die Philadelphia Phantoms, das Farmteam der Flyers, in der American Hockey League absolvierte. Ab der folgenden Spielzeit kam er regelmäßig in der NHL zum Einsatz und erreichte mit Philadelphia in seiner ersten Saison direkt das Endspiel um den Stanley Cup in den Playoffs 2010, unterlag dort allerdings den Chicago Blackhawks. Nach nur knapp zweieinhalb Jahren gaben ihn die Flyers im Juni 2012 an die Toronto Maple Leafs ab und erhielten im Gegenzug Luke Schenn. Bei den Maple Leafs etablierte sich van Riemsdyk als regelmäßiger Torschütze, so erreichte er in der Spielzeit 2013/14 erstmals die Marke von 30 Treffern, bevor er diese Bestleistung in der Saison 2017/18 auf 36 Tore steigerte.
Nachdem die Maple Leafs seinen auslaufenden Vertrag nicht verlängert hatten, kehrte van Riemsdyk im Juli 2018 als Free Agent zu den Philadelphia Flyers zurück. Dort unterzeichnete er einen Fünfjahresvertrag, der ihm ein durchschnittliches Jahresgehalt von sieben Millionen US-Dollar einbringen soll.[1] Nach Erfüllung dessen wechselte er im Juli 2023, ebenfalls als Free Agent, zu den Boston Bruins. In deren Trikot bestritt er im März 2024 seine insgesamt 1000. NHL-Partie der regulären Saison. Ebenfalls als Free Agent schloss er sich in weiterer Folge im September 2024 den Columbus Blue Jackets an.
(Legende zur Spielerstatistik: Sp oder GP = absolvierte Spiele; T oder G = erzielte Tore; V oder A = erzielte Assists; Pkt oder Pts = erzielte Scorerpunkte; SM oder PIM = erhaltene Strafminuten; +/− = Plus/Minus-Bilanz; PP = erzielte Überzahltore; SH = erzielte Unterzahltore; GW = erzielte Siegtore; 1Play-downs/Relegation; Kursiv: Statistik nicht vollständig)
Familie
James van Riemsdyk hat zwei jüngere Brüder, die ebenfalls Eishockey spielen. Trevor van Riemsdyk steht bei den Washington Capitals unter Vertrag, während Brendan van Riemsdyk (* 1996) in der Saison 2021/22 erste Profispiele in der ECHL absolvierte.