Cette voie est ouverte en 1882 sous le nom de « rue de Mailly », à cause de l'hôtel de Mailly, autrefois situé rue de l'Université sur l'emplacement duquel elle fut percée.
Elle prend sa dénomination actuelle par un décret du .
Bâtiments remarquables et lieux de mémoire
Plaque commémorative en mémoire de José Barón Carreño (1918-1944), républicain espagnol et résistant, mort pour la France lors des combats de la Libération de Paris, à l'angle de la rue Villersexel et du boulevard Saint-Germain, votée à l'unanimité du conseil du 7e arrondissement et du Conseil de Paris[1].
L'architecte Jean Duthilleul (1913-2010) eut son cabinet rue de Villersexel[2].