Petrov-Vodkin syntyi suutarin perheeseen, lähti Samaraan opiskelemaan taidetta 1890 ja jatkoi tätä Pietarissa. Siellä hänen opettajinaan toimivat muun muassa Valentin Serov, Isaak Levitan sekä ennen kaikkea Konstantin Korovin. Vuonna 1901 hän siirtyi Müncheniin opiskelemaan yksityisesti Anton Aschben johdolla. Hän opiskeli myös Pariisissa, kävi Italiassa ja Pohjois-Afrikassakin. Hän opiskeli myös Moskovan kuvataiteen, kuvanveiston ja arkkitehtuurin instituutissa.
Vuonna 1911 Petrov-Vodkin liittyi venäläiseen Taiteen maailma -ryhmään. Vuonna 1924 hän oli perustamassa Neljä taidetta (Четыре искусства, Tšetyre iskusstva) -ryhmää.
Tyylillisesti Petrov-Vodkinin taiteessa voi havaita abstraktiota lähentelevän tyylittelyn ja eroottiset aiheet.
Petrov-Vodkin jatkoi opetustyötään Neuvostoliitossa, mutta hän joutui suhteellisen syrjään valtavirrasta, joka kannatti sosialistista realismia. Nikita Hruštšovin ajoista häntä on pidetty yhtenä merkittävimmistä neuvostoajan taidemaalareista.