Tidligere spilte han for det argentinske topplaget Independiente (1997–2003). Han var i ferd med å gå til Real Madrid i 2003, men laget avslo overgangen etter en medisinsk test, som ifølge klubben avslørte en kneskade. Gabriel Milito besluttet å bli værende i Spania, og gikk i stedet til Real Zaragoza. 10. juli 2007 gikk han til FC Barcelona, for 20.5 millioner euro.
Han er broren til den tidligere fotballspilleren Diego Milito.