Cette rue est une ancienne voie de la commune de Grenelle, ouverte pendant la construction de l’église Saint-Jean-Baptiste de Grenelle en 1828 et entièrement rattachée à la voirie de Paris par un décret du .
Une partie de la rue de l’Église a été supprimée lors de l'ouverture de l'avenue Félix-Faure en 1896. Une autre fait partie de la place Étienne-Pernet.
Plaque au no 26 en hommage à Jean Morvan et Albert di Fusco, fusillés par les nazis en 1941.
Bâtiments remarquables et lieux de mémoire
Le no 56 est occupé depuis 1972 par l'école d'Assas, auparavant abritée, depuis 1938, dans l'immeuble du no 28 de la rue d'Assas.