Électricien de métier, Gustave Ganay remporte ses premiers succès en 1910 et 1911 au Grand Prix de Manosque. Appelé sous les drapeaux pendant la Première Guerre mondiale, il doit interrompre sa carrière entre 1914 et 1918.
En 1919, il renoue avec le succès au cours de la course Marseille-Lyon. Il est troisième au championnat du monde de demi-fond professionnel en 1922 puis deuxième en 1926. Il remporte également le championnat de France de demi-fond cette année-là.
Il meurt des suites d'une chute à vélo au Parc des Princes à Paris le , à l'apogée de sa gloire. La chute a lieu à la sortie du virage après la ligne d'arrivée, au même endroit où Leander et Brécy[1] perdirent la vie : après que son pneu avant a éclaté, il heurte de la tête le ciment de la piste. Il est inhumé au cimetière Saint-Pierre de Marseille. La ville de Marseille lui a rendu hommage en donnant son nom à un boulevard et une tribune du Stade Vélodrome.