Il fonde le club de l'« Arsenal FC » le avec d'autres dirigeants. C'est toujours le nom officiel du club aujourd'hui, mais afin d'éviter la confusion avec le club londonien homonyme d'Arsenal FC, le club argentin est connu sous le nom d'« Arsenal de Sarandi ».
Dirigeant ce club de 1957 à 1976, Julio Grondona est ensuite président du Club Atlético Independiente jusqu'en 1981. En 1979, au lendemain du sacre de l'équipe d'Argentine de football lauréate de sa première Coupe du monde organisée à la maison, il devient président de l'Asociación del Fútbol Argentino ((es) AFA), poste qu'il occupe jusqu'à sa mort. Il cumule la charge de vice-président de la FIFA, avec la gestion de la présidence de la Commission des Finances de cette entité.