Ossip Petrov est né à Elisavetgrad en Nouvelle Russie[3], faisant partie alors de l'Empire russe. Il a commencé à chanter dans un chœur d'église. Petrov a ensuite travaillé dans des théâtres russes de province (dont Poltava, où il a travaillé avec Mikhaïl Chtchepkine(en)). Il entre dans la troupe lyrique Djourakhovski et fait ses débuts dans Le Poète cosaque de Cavos à Elisavetgrad (1826). En 1830, Lebedev, directeur de l'Opéra impérial l'entend chanter avec une petite troupe à Koursk et l'engage immédiatement.
Son cinquantième anniversaire en tant que chanteur donne lieu à une véritable fête nationale. Il reçoit le sur la scène du théâtre Mariinski une médaille d'or, cadeau personnel de l'empereur Alexandre II. Le président de la Société musicale russe, oncle du tsar, le grand-duc Constantin, prononce un discours en son honneur. Des messages venus de toute la Russie sont. Puis il reçoit une couronne de cent feuilles d'or sertie de diamants, une feuille pour chacun des cent opéras dans lequel il avait chanté[4]. À cette occasion, Tchaïkovski écrit une cantate (Hymne), pour ténor, chœur et orchestre, sur des paroles de Nikolaï Nekrassov. Elle est jouée au conservatoire de Saint-Pétersbourg le , sous la direction de Karl Davidov[5].
Les cinquante-deux ans de carrière de Petrov se sont poursuivis jusqu'à la veille de sa mort.
Sa femme était une contralto russe d'opéra, Anna Vorobiova.
