První prototyp stroje zalétal tovární pilot mjr. Federov 7. srpna1941 a o den později převzal plukovník Stěpančonok letoun ke zkouškám vojenského letectva. Jednalo se prakticky o pozměněný bombardovací letoun Petljakov Pe-2 bez aerodynamických brzd pod křídlem a se zvětšeným objemem palivových nádrží. Letoun měl po zavedení výroby koncem srpna 1941 značné problémy, protože jeho rychlý vývoj byl nedostatečný, rovněž první bojové zkušenosti u 95. leteckého pluku vyvolaly stížnosti.
Proto byl v září vyroben zlepšený stroj Pe-3bis, který zalétal pilot Chripkovoj. Letoun poháněla dvojice motorůVK-105PA o výkonu 772 kW. Jeho výzbrojí byly dva kulomety UBK ráže 12,7 mm v přídi se změněným zasklením a pod nimi jeden 20mm kanon ŠVAK. Na požadavky pilotů bylo instalováno čelní pancéřování, pro zlepšení přistávací charakteristiky dostaly náběžné hrany křídel automatické sloty, přibyla možnost instalace průzkumné kamery a další drobné změny. Letoun se vyráběl v malých sériích až do roku 1944.
Pe-3 zůstaly ve výzbroji až do konce války. Nejdéle sloužily u letectva Severní floty, které je nahradilo stroji Iljušin Il-28 na počátku 50. let.
