1941年6月23日，德国入侵苏联的第二天，雅科夫就上了前线。临行前来不及见父亲一面，只通了个电话，斯大林说：“去吧，好好打仗。”
雅科夫在奔赴前线途中，从维亚济马火车站给妻子寄了一张明信片，其中说道：
亲爱的尤丽娅。照顾好加尔卡和你自己。告诉她爸爸雅沙很好。等一有机会，我再写一封长点的信。别担心我，我一切都好。你的雅沙。
多年后，女儿加林娜听邻居说，父亲走后，母亲哭了很长时间，就像乡下女人哭死去的丈夫一样边哭边诉——该不是感觉到她的雅沙再也回不来了？
雅科夫一直没有寄来“长信”。1941年7月11日，德军攻入维捷布斯克市。苏方三个集团军落入包围圈。其中就有雅科夫上尉担任榴弹炮连连长的第44坦克师第14榴弹炮团。战争初期，被围困部队的惊慌和混乱可想而知。当时苏联对于德国的突然袭击毫无准备，损失惨重，仅仅三个星期，苏军阵亡人数即高达百万，7万余人被俘。
部队首长并未忘记雅科夫。他们知道一旦斯大林儿子牺牲或者被俘会是什么结果。因此师长瓦西里耶夫上校给特别处处长下了死命令：撤退时务必把雅科夫拉上汽车。据炮团团长报告，命令已经执行，然而当7月16日夜间该师余部冲出重围时，却不见雅科夫的身影，且不知为何并未加紧搜寻。直至在大本营的朱可夫下令立即弄清雅科夫上尉的下落并报告方面军司令部后，才自7月20日开始搜寻。由政委戈罗霍夫率领的摩托化部队士兵，在卡斯普利亚湖边遇到了红军战士拉普里泽，据拉普里泽说，他是和雅科夫一起突围出来的。7月15日他们换上老百姓的衣服，将随身的证件埋到土里，在弄清附近没有德国鬼子后，雅科夫决定稍事休息，拉普里泽则一直往前走，碰巧遇到那批摩托化部队的士兵。政委戈罗霍夫似乎不明白自己在找谁，带着人就往回走了，他认定雅科夫已经归队。
雅科夫的好友伊万?萨佩金上校的一封信将事情经过讲得比较清楚。这封信于1941年8月2日发出，寄给雅科夫的弟弟瓦西里。信中说：
炮团落入包围圈。师长丢下他们不管，登上坦克离开战场。坦克从雅科夫?约瑟福维奇旁边驶过，甚至都没有关心一下雅科夫的命运，自己坐在坦克里同炮兵师长一起突出重围。
雅科夫同数十万同胞一样，从此杳无音信。除了拉普里泽外，再也找不到一个可以说明雅科夫神秘失踪的人了。
1943年8月13日，德国飞机从空中撒下传单，上有一张一个胡子拉碴的男人的照片，身着红军的大衣，周围是德国士兵，图下的文字是：“这是雅科夫?朱加施维里，斯大林的长子，第44坦克师第14榴弹炮团榴弹炮连连长，7月16日在维捷布斯克附近同数千其他官兵一起投降当了俘虏。你们也学习斯大林儿子的榜样，投降吧！”
雅科夫被俘的消息，很快就传到了斯大林处，这无疑是对斯大林的一大打击。祸不单行，战场上处处失利，如今又加上个人的不幸。德方的宣传攻势有增无减，8月份又出现了一张传单，上面写着：
亲爱的父亲，我被俘了，身体还好。不久就要到德国一个军官战俘营去。待我不错。祝您健康。问大家好。雅沙。
苏联军事侦察机关试图摸清雅科夫的下落，派出了几个营救组，均无功而返。许多地下工作者和侦察员在向莫斯科通报雅科夫的情况时暴露了身份。德寇兴高采烈。斯大林一怒之下，命令逮捕雅科夫之妻尤丽娅?梅尔策，罪名是给德国人当间谍。尤丽娅在古比雪夫蹲了一年半的监狱，直至雅科夫去世的消息传来方才获释。
成吨的传单继续撒向苏联军队和毗邻前线的地区，传单上印有斯大林长子同德国高级军官和特工人员在一起的照片，照片下面则是“放下武器”之类的呼吁。
雅科夫被俘，是确有其事还是纳粹德国的谣言攻势？当初忽而说雅科夫不在人世，忽而又说他已逃出虎口，令人莫衷一是。关于雅科夫为国捐躯的详情，直至37年后才大白于天下，此时距斯大林去世也有27年之久了。实际上，早在1945年德国投降时，英国政府即已获悉斯大林长子的惨死的经过。英外交部官员建议将这份文件束之高阁，他们说：儿子牺牲的详情细节，只会引起斯大林元帅无谓的悲痛。直至后来英国媒体获准查阅档案材料，方知当初为何要做出这个决定。
雅科夫被俘后曾先后辗转好几个地方：柏林盖世太保的拷问室、吕贝克战俘营、哈默尔堡战俘营。起初关入集中营的监狱，后来则移至对外保密的囚室，囚室位于特别监禁营，用一道高墙和通上高压电流的铁丝网与集中营隔绝开来，由党卫军看守。
1943年2月，因德军在斯大林格勒遭受惨败后，雅科夫拒绝参加反苏宣传，盖世太保首脑希姆莱亲自下令将他押送至距柏林仅20公里的萨克森豪森集中营。当时德方曾试图通过红十字会的渠道，用雅科夫同斯大林格勒被俘的保卢斯元帅作交换。但斯大林斩钉截铁地表示：“我决不拿士兵去换元帅！”
雅科夫牺牲的经过骇人听闻：他是在萨克森豪森集中营自杀身亡的。英国飞行员托马斯?库欣曾与雅科夫同在该集中营，所有与雅科夫一起关在该集中营的英国飞行员，仅托马斯?库欣一人至今健在。他对此记忆犹新：
即使在纳粹分子中间，萨克森豪森集中营也是臭名远扬。押送到该处的多半是苏联战俘。仅1941年一年，这个集中营就枪杀了1800名苏联战俘。随后几年，战俘死亡率更是一路走高，因为丧尽天良的纳粹医生拿战俘充当试验中的“海豚”。萨克森豪森原有20万苏联战俘，至战争结束时，幸存者已不到一半。
集中营旁边有个单独的囚室，是“珍贵战俘”的住处，纳粹可以用他们与同盟国手中的德国俘虏作交换。雅科夫被押送至此，胸中块垒挥之不去，他为红军在斯摩棱斯克市郊的失败感到羞愧，且良心上受到谴责：未能履行父亲誓死保卫斯摩棱斯克的命令。德寇千方百计地摧垮他的意志，却未能得逞。
雅科夫本想去做苦工，德方却让他享受“高级战俘”的特权。他所居住的一号囚室，共住了5个人。有客厅、两间卧室和两个洗手间。雅科夫和莫洛托夫的侄子瓦西里?科科林占了一半的面积，另外一半居住着被击落英国战机的机长托马斯?库欣和其他两名飞行员——威廉?墨菲和奥布赖因。由于思想意识方面的分歧，雅科夫与英国飞行员之间时有龃龉。据文献记载，雅科夫经常说等战争结束，红军就要把英国的公爵、王子、伯爵、勋爵和男爵统统消灭，他认为这些人都充当了“希特勒的傀儡”。
1943年年初，一号囚室内的气氛骤然紧张起来。往往区区小事即可触发疯狂的争吵：因分发红十字会寄来的包裹，因英国人和俄国人的生活习惯不同等。就是在这种情况下，发生了使雅科夫走上自杀之路的事件。
1943年4月14日，库欣挑起了针对雅科夫的争执。其他战俘也参与进来。威廉?墨菲站在库欣一边，奥布赖因则用污言秽语辱骂科科林。斗殴中奥布赖因把科科林打得满脸是血。不知雅科夫在这次争执中扮演了什么角色，也不知他针对英国人的行为有多大的敌意，但有一点很清楚，当天他的神经系统已经彻底崩溃。天色已晚，他却不肯回到囚室，坚持要集中营警卫长接见他，听取他对英国战俘的意见。但雅科夫的要求遭到拒绝，于是他彻底丧失理智，一把抓起地上的木棍，边跑边喊：“毙了我吧！毙了我吧！”喊着喊着，雅科夫在猛跑中，一头扑向通上高压电流的铁丝网。这时库欣正在往囚室的窗户上挂床单，他看见院里乱轰轰的，便一跃而出，眼睁睁地看着这场惨剧的发生。
库欣讲述道：“雅科夫?斯大林疯也似地朝着铁丝网迅跑。转瞬间，我看见了淡蓝色的闪光，也听到了枪声，集中营里的反光灯瞬间熄灭。我明白，雅科夫已经完了。”哨兵孔拉德?哈尔费什在呈交给党卫军警卫长的报告中，详细描述了雅科夫生命中的最后几分钟：“雅科夫?斯大林把右脚伸到铁丝网的方形空档，左脚踩到电线上。那一刹那，他一动不动，右脚前伸，身子后仰。然后喊道：‘哈尔费什，你是个当兵的！别胆怯，朝我开枪啊！’我就朝雅科夫开了一枪。”子弹从雅科夫右耳旁击穿头部，他当即死亡。然后才是放电。库欣说：“德国人叫我把雅科夫的尸体裹好搬走。”
【雅科夫的死因被隐瞒35年之久】
1945年7月之前，这一切均无人知晓，当时英美工作小组开始研究德国档案，确认了雅科夫?斯大林自杀的事实。1945年7月27日，英国外交大臣迈克尔?维维安致信美国国务院，称“我们建议勿将此事报告斯大林元帅。不应让他注意到：是俄英战俘之间发生的摩擦成为他儿子自杀身亡的导火线。”美国政府同意这个意见。英国外交部档案馆将雅科夫的专案文件束之高阁达35年之久。
斯大林始终没有因为毁了儿媳尤丽娅的一生向儿媳道歉。尤丽娅从古比雪夫监狱出来，已是满头白发。她回到莫斯科，却长时间无法同女儿加林娜见面。直到战后，疼爱孙女的斯大林才准许母女见面。加林娜说，起初害怕亲妈，头几次见面的时间都很短，是在姑姑斯韦特兰娜陪同下去的。加林娜后来长大成人，毕业于莫斯科大学语文系，并考取了世界文学研究所研究生，获副博士学位。?
加林娜曾收到寄自美国的蓝色公文夹，寄件人为美国国防部负责战俘和失踪者事宜的部长助理杰瑞?詹宁斯（仅二战后即有近78000名美国军人失踪，至今仍在全世界寻找他们的下落）。文件夹中装有近30页德语、英语和俄语文件。具体说来，就是几份美国国务院文件、德国公文复印件、纳粹分子审问雅科夫的笔录、集中营卫兵和医生的证词，还有党卫军首脑希姆莱签署的死亡证明书。这些文件都是德国投降后，美英两国在德国境内找到的。
1977年，苏联最高苏维埃主席团发布命令，授予雅科夫?约瑟福维奇?朱加什维利一级卫国战争勋章（身后授予）。命令不知为何秘而不宣，公众对此一无所知。尽管授奖姗姗来迟，毕竟承认了一个事实：朱加什维利上尉因客观原因落入敌手，但并未背叛祖国，并未违背誓言。他没有玷污自己的名声，也没有玷污他父亲——最高统帅的名声。