Rudess fue reconocido por su profesor de segundo año por su habilidad para tocar el piano e inmediatamente recibió tutoría profesional. A los nueve años, entró a la Juilliard School of Music en la división preuniversitaria de piano clásico, pero a medida que iba creciendo se fue interesando más en sintetizadores y rock progresivo. En contra de sus padres y tutores dejó la música clásica y comenzó su carrera solista como un teclista de rock progresivo.
Después de participar en varios proyectos en los 80, obtuvo atención internacional en 1994 cuando fue elegido como Best New Talent ("mejor talento nuevo") en la encuesta de lectores de la Keyboard Magazine, después del lanzamiento de su álbum solista Listen. Dos de las bandas que notaron a la joven estrella fueron The Dixie Dregs y Dream Theater; ambas lo invitaron a unirse a sus proyectos respectivos. Jordan escogió a los Dregs principalmente porque al no ser un miembro de tiempo completo tendría menor impacto en su joven familia, opción que no tuvo con Dream Theater.
Estando con los Dregs, Jordan formó un así llamado power duo con el baterista Rod Morgenstein. La génesis de este emparejamiento ocurrió cuando una falla de electricidad ocasionó la falla de todos los instrumentos de los Dregs excepto el de Jordan, así que él y Rod improvisaron juntos hasta que la electricidad fue restablecida y el concierto pudo continuar. La química entre los dos fue tan fuerte en ese jam que decidieron actuar juntos regularmente (bajo el nombre Rudess/Morgenstein Project, después RMP) y desde entonces, han lanzado un álbum en estudio y uno en vivo.
Jordan se encontró una vez más con Dream Theater cuando él y Morgenstein fungieron como teloneros en una de las giras de Dream Theater por Norteamérica.
En 1997, cuando se le pidió a Mike Portnoy crear un supergrupo para Magna Carta Records, Rudess fue escogido para tomar el puesto de teclista en la banda, que tenía también a Tony Levin (en el bajo) y al colega de Mike de Dream Theater, John Petrucci (en la guitarra). Después de la grabación de los dos álbumes de Liquid Tension Experiment, Portnoy y Petrucci le pidieron que se uniera con ellos a la agrupación Dream Theater. Al tener a Rudess como nuevo teclista, despidieron a su teclista de entonces, Derek Sherinian, para abrirle camino a Jordan.
En 2010, Rudess hizo el estreno mundial de su obra "Explorations for Keyboard and Orchestra", específicamente el 19 de noviembre, en el Centro Cultural Corp Banca, en Caracas, Venezuela. La misma fue concebida como una obra sinfónico-orquestal con la inclusión de guitarra eléctrica y batería donde se incluían citas del repertorio de Dream Theater. La orquesta seleccionada para acompañarle en dicho estreno fue la "Orquesta Sinfónica Juvenil de Chacao" bajo la batuta del nobel director turco Eren Basbug. En palabras del propio Rudess: "En "Explorations" estaré tocando todas las partes de teclado y sintetizador. Eren Basbug de Turquía estará dirigiendo a la talentosa sinfónica juvenil de Chacao. Sin duda alguna el escenario ya está listo para una noche memorable".
En 2012, Musicradar.com realizó una encuesta a nivel mundial para elegir al "Mejor tecladista de todos los tiempos", y Rudess salió electo por sus fanes con el galardón, venciendo a sus mismos inspiradores como lo son Keith Emerson, Rick Wakeman, Rick Wright. Sin duda, tras este reconocimiento, Jordan Rudess es catalogado como una leyenda en los teclados.
Monitores de Audio, dos Mackie 824 y tres 624s con un subwoffer HRS 120 para un completo sistema envolvente
Jordan también utiliza actualmente un computador Apple G4 y G5 en estudio (con procesador dual) para utilizar instrumentos virtuales controlador por MIDI, tales como:
Otros sintetizadores virtuales, tales como Imposcar, Ultra Focus, Morphology y Vapor
Más recientemente, Jordan Rudess ha desarrollado aplicaciones para dispositivos touch iOS, las cuales son: MorphWiz, SketchWiz, SampleWiz, GeoSynthesizer, Tachyon y SpaceWiz. Además tiene una versión personalizada de Bebot, llamada Wizbot, que Russell Black diseñó específicamente para Jordan. Esta versión no está disponible en el App Store de Apple.