Perov var født utenfor ekteskap. Faren, sakføreren Grigorij Kridener, kom fra lavadelen. Etter å ha fullført et kurs ved distriktsskolen i Arzamas, ble Perov overflyttet til Aleksandr Stupins kunstskole i samme by. I 1853 ble han tatt inn ved Moskvas skole i maling, billedhogging og arkitektur. Han gikk i lære hos flere anerkjente kunstmalere.
Kunstnerisk virke
Fra 1856 og utover ble han ved flere tilfeller tildelt medaljer og fikk ofte ros for sine arbeider. Fremst blant disse maleriene er Seremoni i en landsby (1861).
Med et utenlandsstipend bekostet av den russiske stat, reiste Perov i 1862 til Vest-Europa. Han besøkte flere tyske byer, og deretter Paris. Under dette utenlandsoppholdet malte han flere verk som viser scener fra europeisk gateliv, slik som Statuett-kjøperne, Musikanten og de forbipasserende, og Parisisk filleplukker (1864).
Vel hjemme i Moskva igjen i 1865, skapte Perov de neste 6-7 årene sine hovedverk. Blant disse regnes Den siste reise (1865), Troika. Småbarn i tjeneste henter vann (1866), Den druknede (1867), En guvernante kommer til en kjøpmanns hus, En samling ved jernbanen (1868), Tavernaen ytterst i byen (1868), Fuglefangeren (1870), Jegere hviler (1871). Perov malte i 1872 det mest kjente portrettet av forfatteren Fjodor Dostojevskij.
Fra 1871 innehadde han stilling som professor ved Moskvas skole i maling, billedhogging og arkitektur. Andrej Rjabusjkin er den av Perovs elever som ble mest kjent. Det var i denne perioden Perov kom med i Peredvizjnikibevegelsen.
Perov døde av tuberkulose. Han ble bisatt ved Danilov-klosteret, men i 1950-årene ble graven flyttet til gravstedet Donskoje.