Cresciuto nel vivaio dell'Ajax, gioca tre stagioni per il club di Amsterdam, vincendo la Eredivisie nel 1998 e la Coppa d'Olanda nel 1998 e nel 1999. Si trasferisce nell'estate del 1999 al Chelsea, dove vinse la FA Cup nel 2000.
Si trasferisce al Birmingham City nel luglio del 2004 con un contratto di due anni, debuttando con un 1-1 contro il Portsmouth. Il Birmingham retrocede durante la sua seconda stagione nell'aprile 2006 dopo il pareggio per 0-0 con il Newcastle Utd. Gioca l'ultima partita per il club nella sconfitta per 1-0 subita dal Bolton il 7 maggio 2006.
Nell'agosto dello stesso anno, Melchiot firma per un anno con la formazione francese del Rennes, militante in Ligue 1. Debutta nel pareggio 1-1 contro il Monaco, e partirà titolare per tutta la stagione. Segna il suo primo gol per il club bretone in Coupe de France nei sedicesimi di finale nel pareggio contro il FC Libourne-Saint-Seurin, club di Ligue 2. Melchiot entra nel cuore dei tifosi segnando il secondo gol nella vittoria del Rennes ai danni degli eterni rivali del Nantes.
Il contratto di Melchiot termina nell'estate del 2007 e fa così ritorno in Premier League vestendo la maglia del Wigan Athletic, club che lo ha acquistato a parametro zero durante il mercato estivo.