Jakovljev je s razvojem poboljšanog Jak-38M počeo 1983. kada je izdao prijedlog za izradu Jaka-39 koji je imao sličnu konfiguraciju, no bio je pojačan izmijenjenim motorima, kompozitnim krilima s većim razmahom, šest podkrilnih spojišta i radarom. Budući da se radilo samo o poboljšanoj inačici i da je Jakovljev tada radio na puno naprednijem zrakoplovu, projekt je prekinut još u fazi planiranja. 1977., i prije nego što je Jak-38 ušao u službu, odobrena je odluka o razvoju nadzvučnog VTOL zrakoplova. Izrađena su četiri prototipa, od čega su dva trebala biti korištena za letna testiranja. Zbog promjene namjene zrakoplova u višenamjenski, razvoj je nakratko usporen a nova konfiguracija je dobila oznaku Jak-41M.
Prvi let se odvio 9. ožujka1987. s glavnim Jakovljevim testnim pilotom Andrejom Sinicinom za kontrolama. Prvi pravi VTOL let je obavljen 13. srpnja1990. kada je prototip sletio na nosač-razarač "Baku", a jedan od prototipova je 1991. otpisan nakon nezgode prilikom slijetanja; pilot Vladimir Jakimov se pritom uspješno katapultirao.
Jak-141 je 1992. demonstriran u Ujedinjenom Kraljevstvu tijeko zračnog mitinga u Farnboroughu; dobio je NATO oznaku "Freestyle".