З 27 чэрвеня 1941 года Якаў знаходзіўся ў дзеючай арміі: камандзір 6-й артылерыйскай батарэі 14-га гаўбічнага палка 14-й танкавай дывізіі 7-га мехкорпуса 20-й арміі, старшы лейтэнант.
4 ліпеня 1941 года часткі 16-й, 19-й і 20-й арміі патрапілі ў акружэнне пад Віцебскам.
За бой 7 ліпеня 1941 года каля ракі Чарнагосніца пад СянноВіцебскай вобласці разам з іншымі байцамі Якаў Джугашвілі быў прадстаўлены да ўрадавай узнагароды (гл. Бітва пад Сянно). 16 ліпеня 1941 года пры выхадзе з акружэння каля Лёзна ён прапаў. Згодна з рапартам брыгаднага камісара Аляксея Румянцава, беспаспяховыя пошукі сына Сталіна працягваліся да 25 ліпеня.
14 красавіка 1943 года загінуў у канцлагеры Заксэнхаўзен пры спробе да ўцёкаў. Паводле сведчанняў відавочцаў, Джугашвілі кінуўся на калючы дрот, а вартавы праз імгненні стрэліў яму ў галаву. Падрабязную інфармацыю пра яго смерць, заснаваную на матэрыялах допытаў ахоўнікаў і апытанняў вязняў канцлагера, кіраўніцтва СССР атрымала яшчэ ў 1945 годзе, а нямецкія дакументы аб абставінах гібелі Джугашвілі, выяўленыя амерыканскімі спецслужбамі ў Берліне адразу пасля вайны, былі рассакрэчаныя ў 1968 годзе. У 1977 годзе Якаў Джугашвілі быў пасмяротна ўзнагароджаны Ордэнам Айчыннай вайны І ступені.