Klubi asutati 15. septembril 1903. Suurem osa klubi asutajaliikmeid oli saksa immigrandid.
Grêmio on tulnud kahel korral Brasiilia meistriks (aastatel 1981, 1996) ja 43 korral osariigi meistriks. Brasiilia karikavõistlused Copa do Brasil on võidetud viiel korral. Grêmio on olnud edukas ka rahvusvahelisel tasandil, kolmel korral on võidetud Lõuna-Ameerika klubide meistrivõistlused Copa Libertadores (1983, 1995, 2017) ja kahel korral Lõuna-Ameerika superkarikas Recopa Sudamericana (1996, 2018) ning korra võideti Intercontinental Cup. Tänu võidule Copa Libertadorese turniiril 2017. aastal pääses Grêmio Lõuna-Ameerika esindajana klubide maailmameistrivõistlustele, mille finaalis kaotati Madridi Realile tulemusega 1:0
Grêmio kauaaegne rivaal on olnud Internacional ning nende kahe meeskonna vahelisi mänge on peetud Brasiilia kõige tulisemateks.[1] Kahe klubi vahelised mängud on tuntud nimega Grenal.