Il est élu pour la première fois conseiller de Paris dans le 16e arrondissement de Paris en 1995, lors des élections municipales. Le scrutin étant remporté par la majorité sortante menée par Jean Tiberi (RPR), Jean-Yves Mano siège au sein de l'opposition.
La gauche menée par Bertrand Delanoë sortant victorieuse de ce scrutin, Jean-Yves Mano est élu adjoint au maire de Paris le , chargé du logement. En raison de la démission de Bertrand Delanoë consécutive à son élection à Paris, Jean-Yves Mano est sénateur pour Paris de 2001 à 2004.
Aux élections municipales de 2008 à Paris, la liste d'union de la gauche que conduit Jean-Yves Mano dans le 16e arrondissement recueille 17,08 % des suffrages exprimés. Elle se place en deuxième position derrière la liste de Claude Goasguen (UMP), 51,71 %, et devant celle de David Alphand (DVD), 13,22 %[1]. Jean-Yves Mano conserve ainsi son siège de conseiller de Paris et est reconduit comme adjoint au maire chargé du logement. Lors des élections municipales de mars 2014, il est en position inéligible sur la liste socialiste de Thomas Lauret et quitte le Conseil de Paris et le conseil d'arrondissement.
En tant que conseiller de Paris, il est en même temps conseiller d'arrondissement du 16e arrondissement de Paris, ayant toujours siégé dans l'opposition.
En , il devient président de l'association de consommateurs CLCV[2].