Von 1948 bis 1952 studierte er Schauspiel an der Schtschukin-Theaterhochschule des Wachtangow-Theaters in Moskau. Ab 1952 war er Mitglied der Schauspielertruppe des Wachtangow-Theaters. Zu seinen Bühnenpartnern zählten dort Schauspieler wie Michail Uljanow, Ruben Simonow, Boris Sachawa, Michail Astangow, Warwara Popowa und viele andere bekannte sowjetische beziehungsweise russische Darsteller.
Größere Bekanntheit beim Film erlangte er 1958 durch die Hauptrolle als Prinz Myschkin im Film Der Idiot von Iwan Pyrjew. In den 1960er bis 1980er Jahren gehörte er zu den populärsten Schauspielern der Sowjetunion.
Jakowlews Vater, Wassili Wassiljewitsch Jakowlew, war Jurist und seine Mutter, Olga Michailowna Iwanowa, war Hausfrau. Insgesamt drei Mal war Jakowlew verheiratet (unter anderem mit der Schauspielerin Jekaterina Rajkina) und wurde in jeder Ehe Vater eines Kindes, von denen Anton Jakowlew und Aljona Jakowlewa auch Schauspieler sind. Er lebte mit seiner Familie in Moskau.
Filmografie (Auswahl)
1957: Ein ungewöhnlicher Sommer (Neobyknovennoye leto)