Era un ciclista especialitzat en clàssiques, on aconseguí importants victòries i bons resultats, com ara la Fletxa Valona (2004, 2007, 2009) l'Amstel Gold Race (2004) o la Lieja-Bastogne-Lieja (2007). El 2004 finalitzà en segona posició de la Copa del Món de ciclisme després d'esdevenir el primer ciclista de la història a guanyar les tres grans clàssiques ardeneses el mateix any. En proves per etapes, a més de triomfs en algunes proves d'una setmana, com ara la Tirrena-Adriàtica de 2001 o la París-Niça de 2008, va obtenir bons resultats al Giro d'Itàlia, cursa que finalitzà en sisena posició el 1996, a més de guanyar una etapa i vestir el mallot rosa durant sis etapes en aquella mateixa edició.
Durant diversos anys finalitzà entre els millors cinc ciclistes de la classificació UCI.
El 28 d'abril de 2009 la premsa italiana anuncià que havia estat un dels sis esportistes que havien donat positiu per EPO-CERA en un control antidopatge durant els Jocs Olímpics de Pequín.[1][2] Això li comportà la pèrdua de la medalla de plata que havia guanyat en la prova en ruta en benefici del suísFabian Cancellara.[3] L'1 d'octubre de 2010 l'UCI anuncia una suspensió de dos anys, fins al 27 d'abril de 2011. Rebellin anuncià la seva intenció de reprendre la competició al final de la suspensió.[4]
