原苏联是世界上第一个社会主义国家，因此它长期处于资本主义的包围中。斯大林在1925年就说过：战争的前提日益成熟而使战争的爆发不可避免。这种看法构成了斯大林内外政策的基本出发点。他相信战争己迫在眉睫，而且很可能在苏联还未来得及积聚力量之前就把它摧毁。正是出于这一考虑，他主张立即实现农业集体化和社会主义工业化，加强自身的力量，在国际事务中围绕着尽可能地避免战斗而展开活动。
二战爆发后，美国总统罗斯福派遣私人代表霍普金斯前往莫斯科共商讨抗敌之策。1933年，希特勒在德国上台，战争的乌云开始在欧洲上空集结。希特勒公开表示对苏联的敌视，并提出对乌克兰的领土要求。
1933年，苏联同波兰、芬兰签订了互不侵犯条约。在同一年，苏联和美国正式建立了外交关系。1934年夏季，苏联分别同捷克斯洛伐克、罗马尼亚和保加利亚签约，这在一定程度上保障了西南边界的安全。1934年9月，苏联加入了国际联盟，这是为寻求和平采取的一个步骤。1935年，斯大林寻求与英法两国结盟，但遭到英、法两国的拒绝。
1936年10月，德国-意大利轴心形成。纳粹分子不断发出敌视苏联的叫嚣。在东方，日本不断在苏联东部边界上挑起事端，这使斯大林的压力越来越大。1938年3月，希特勒占领了奥地利。接着发生了苏台德日耳曼人危机。德国的好战吓坏了英国首相张伯伦和法国总统达拉第，他们急忙同希特勒磋商，两国同意向捷克斯洛伐克施压，让捷克斯洛伐克把苏台德地区割让给德国。
斯大林立即建议，由英、法、苏三国建立一个反德联合阵线，在德国进攻捷克时三国共同出兵制止德国的扩张。但英法两国都不想得罪希特勒，希望用让步政策来换取西方的和平，牺牲捷克斯洛伐克，把战争的祸水引向苏联。他们不接受斯大林的建议，在臭名昭著的慕尼黑会议上，逼捷克斯洛伐克把苏台德地区拱手让给了希特勒。斯大林毫不怀疑，英法同意肢解捷克斯洛伐克的动机，显然是怂恿希特勒在东方放手大干，以换取西方的和平。
英法两国的短视和自私自利，使斯大林失去了对他们的信心，为了苏联免遭战争，斯大林转而采用实用主义的政策，同希特勒媾和，时间越长越好。因为他的国家现在还没有准备好战争。为了保证社会主义的苏联在世界上的存在，1939年8月，苏联和德国签订了互不侵犯条约。
1939年9月1日，希特勒侵入波兰。两天后，英法两国向德国宣战，战争已成为现实。斯大林加速了苏联的备战。征兵年龄从21岁降到19岁，苏联军队的人数增加到420万以上。
按照与德国达成的协议，苏军进入了波兰东部，把波兰与苏联接壤的乌克兰人和白俄罗斯人居住区占领，并归入苏联版图。10月，斯大林指示莫洛托夫向立陶宛、拉脱维亚和爱沙尼亚提出签订互助条约的建议。条约签订后，红军进入这些国家，2月后，把这三个国家也纳入了苏联的版图，保证了苏联波罗的海通道的安全。在西北部，列宁格勒离芬兰边境只有32公里，在炮火的射程之内，苏联曾向芬兰提出以交换土地的方式让芬兰向北迁移30公里，但遭到芬兰的拒绝。11月，苏军进攻芬兰，受到芬兰的顽强抵抗，苏军伤亡惨重。斯大林很恼火，命令增兵大举进攻，芬兰屈服了，同意将边境向北移动130公里。
1940年，德国的机械化闪电部队很快占领了挪威、丹麦。荷兰、比利时。英国军队从敦刻尔克撤退。法国的马奇诺防线也不堪一击，德国人占领了巴黎。这实际上意味着希特勒可以腾出手来攻打东方了。
斯大林加紧战争准备，各种新式武器装备研制并生产出来，迅速地准备到军队中，加紧培训军官。由于大清洗，军队的高级指挥官奇缺，从被清洗的军官中又召回四千人，他自己每天工作16小时，研究战略战术，组织教官等问题。让总参谋部制订国家防御计划和武装部队部署计划。总参谋部的华西列夫斯基先后两次制订出防御计划，他把红军主力部署在西线，计划呈报给斯大林。斯大林不同意这个计划，令其重新制订。第三次，总参谋部把主力部署在西南面，斯大林同意了。事后证明，华西列夫斯基的前两个方案是正确的，因为斯大林的失误，使战争初期苏军为此付出了惨重的代价。
希特勒已经准备好进攻苏联，各种消息源源不断地送到斯大林那里。斯大林不相信，也不愿意承认战争马上就会爆发，他希望再拖上几个月，部队没有进入战争状态。但是，1941年6月21日夜间，朱可夫从基辅打来的电话里获悉。一名德军司务长越过了边防线对苏军指挥员说，德国军队将在次日凌晨发动进攻。朱可夫立即给斯大林和铁木辛哥打电话。斯大林把他们召到克里姆林宫。斯大林听了朱可夫报告后的第一个反应是：“也许是德国将领把这个逃兵送过来，是为了挑起冲突。”“不，我们认为这逃兵说的是真话。”他们回答说。
政治局委员都来了，斯大林询问他们的意见，但是没有回答。沉默一阵后，铁木辛哥说话了：“应该立即命令边境军区所有部队进入一级战备。”朱可夫把在总参谋部队订的命令读了一遍。命令强调必须根据打退敌人进攻的作战计划采取坚决行动，但斯大林仍没有放弃他的希望，以为这也许是一场虚惊。他说：“现在下达这样的命令还太早，也许还可以和平解决。”斯大林让人重新起草命令，发往列宁格勒、波罗的海、西部、基辅和敖德萨各军区的前线部队，要他们立即做好准备，准备抗击德国可能发动的突然袭击。
1941年6月22日0时30分这项命令下达完毕。但许多集团军尚未接到命令时，德军已发动了全线进攻。
德国以162个师，30万人，3400辆坦克，7000门火炮。分三路进军：北路指向列宁格勒、中路指向莫斯科、南路指向乌克兰，向苏联发动进攻。苏联就是在这种背景下仓皇应战的。
德国的大规模突然进攻，出乎斯大林的意料之外。由于他判断和部署的失误，使苏联遭受极大损失。
通信联络中断，莫斯科几乎失去了同各军区之间的联络。斯大林和他的统帅部并不知道，在战争第一天，苏军共损失了1200多架飞机，大部分飞机是被德军炸毁在机场上的。德军掌握了制空权并从宽约1500公里的广大地区向苏联发起正面进攻。德国的坦克部队和摩托化步兵师潮水般冲向苏联各边防要塞和城市。苏军在边境地区的军用仓库、武器弹药及其他军需物资，几乎全部落入德军手中，苏军官兵虽然奋力反击，但无法阻挡德军的快速推进。在战争的头几天，苏联西部边境各条战线都是乱糟糟的，有时简直是一片混乱。统帅部不断发出新的指示和命令，但这些指示和命令又都落后于急速变化的形势。在战争的头五六天里德军就深入了苏联国土150～200公里。
斯大林心情沮丧，甚至有些慌乱，但他很快从消沉的情绪中摆脱出来，振作起来，重新负起他身上的重任。为了摸清前线情况，他命令大本营的朱可夫大将到西南方面军、沙波升尼科和库利克元帅到西方方面军。
6月28日，德军在明斯克完成合围，苏军43个师又3个旅被围歼于明斯克，傍晚，白俄罗斯首府明斯克失守。斯大林沉痛地说：“列宁亲手缔造了我们的国家，而我们大家却把它误了！”
为了战争的需要，斯大林亲自兼任了国防人民委员，稍后，又亲自担任苏联武装部队最高统帅。斯大林集党、政、军大权一身，这在战争时期是必要的。斯大林命令将工业向东转移，根据这个命令，1500多个企业其中包括1300多个庞大军工厂，向后方疏散。这些工厂很快就完成迁移，并又很快地恢复生产，这为以后的战争胜利打下了深厚的物质基础。
德军攻破了列宁格勒以东20公里的筑垒区。9月8日，攻占了拉多加湖畔的计利湖利堡。列宁格勒被德军包围，列宁格勒居民开始了近500天的保卫战。
在西南方向，德军的南方集团军群从利沃夫出发，直逼乌克兰首都基辅。朱可夫紧急求见斯大林，向斯大林汇报总参谋部的作战方案，建议加强中央方面军，建议把西南方面军撤到第聂伯河以东。斯大林问道：“基辅怎么办？”朱可夫坚持己见：“基辅不得不放弃。”斯大林发火了，他高声说道：“把基辅交给敌人，亏你想得出来。”朱可夫委屈地回答说：如果你认为我这个参谋长只会胡说八道，那么还要我干什么。我请求解除我的总参谋长职务，把我派到前线去，我在那里可能对祖国更有好处一些。
“请你冷静些，”斯大林说：“再说……如果你这样提出问题，那么我们缺了你也能行……你去工作吧，我们一会儿叫你来。”大约半小时后，朱可夫被召去。斯大林说：“我们商量了一下，决定解除你的总参谋长职务，由沙波什尼科夫接任。他的身体确实不太好，但没有关系，我们可以帮助他。”
斯大林接着问朱可夫，愿意上哪，并同意由他来指挥他所提议的对叶尔尼亚突击部的反突击。
朱可夫要求离去时，斯大林微笑地请他一起坐下喝茶。他珍惜朱可夫的帅才，尽可能消除他的情绪，斯大林提醒他，他仍然是副国防人民委员和最高统帅部的成员。
在整个二战期间，朱可夫是斯大林最得力的助手之一。他被频繁地调来调去，他指挥了莫斯科保卫战，列宁格勒反击战……他为祖国立下了大功。二战中，他成了最声名卓著的苏联元帅。
朱可夫的计划是正确的，但斯大林没有采纳他的建议。斯大林打电话给西南方面军司令员基尔波诺斯，要他不惜一切守住基辅。经过一个多月的苦战，基辅还是陷落了。基尔波诺斯战死沙场，苏军被围歼60～70万人。
战场上的胜利鼓舞了希特勒，他集中优势兵力准备在入冬前占领莫斯科。在莫斯科前沿的苏联西方方面军、预备队方面军、布良斯克方面军和加里宁方面军英勇奋战。到10月6日还是被围困在维亚泽马地区。经过几次突围均告失败。10月10日，60万苏军在维亚泽马覆没。13日，德军已挺进到离莫斯科不到100公里的地区，莫斯科面临现实的威胁。斯大林命令立即撤退主要的社会活动家和国务活动家。政府迁往古比雪夫，各大企业一律布雷，但他仍希望会有良好的结局，因为西伯利亚和远东的援军已经登车。
敌人的逼近和大规模的撤离一度在市民中引起恐慌，关于斯大林和政治局已经离开莫斯科的谣言也流传开来。10月17日，中央委员会书记向全国广播说，斯大林本人就在莫斯科，他严厉地斥责了要放弃莫斯科的谣言。斯大林留在莫斯科的消息鼓舞了人民。“绝不放弃莫斯科”，“我们无路可退了”成了对每个苏联人的崇高的爱国主义的命令。秩序很快得到恢复，街头呈现出沉着坚定的气氛。首都准备战斗到底。
德国士兵择路通过斯大林格勒一家被炮火击毁的涡轮厂。贝利亚曾向斯大林报告说，在莫斯科近郊某车站已为他准备好一辆专列，还有大本营的4架飞机也已经准备就绪，其中有1架是斯大林的专机“道格拉斯”。斯大林一言不发，他深知，只要军队、人民知道斯大林在莫斯科，就会给他们增添信心，他决心留在莫斯科直到最后一人。
1941年11月6日是十月革命纪念日，庆祝活动安排在地下铁道的马雅可夫斯基车站举行，斯大林在会上发表了讲话并立即广播发表。在首都岌岌可危的时候，斯大林的演讲具有不同寻常的意义。
斯大林说：在反法西斯战争中，苏联并不孤立。英国和美国已表示支持。……问题在于，现在欧洲大陆上没有任何一支同德国法西斯军队作战的英国或美国的军队。因此德国人不必分散自己的力量，不必在东西两个战场上作战。
他用充满激愤的语调说：“这一群丧尽天良、毫无人格、充满兽性的人，恬不知耻地号召消灭伟大的俄罗斯民族，消灭普列汉诺夫和列宁、别林斯基和车尔尼雪夫斯基、普希金和托尔斯泰……苏利科夫和库图佐夫的民族！德国侵略者想对苏联各族人民进行歼灭战。好吧，既然德国人想进行歼灭战，他们就一定会得到歼灭战！今后我们的任务就是把侵入我们祖国领土的所有德国人——占领者一个不剩地歼灭掉……”
在这些关键的日子，斯大林非常重视从精神上鼓舞苏联人民必胜的信心。他决定第二天照常举行传统的阅兵式。
11月7日，斯大林在红场检阅了部队，听他演讲的部队随即开赴前线。斯大林在讲话中最后号召：“你们进行的战争是解放战争，正义的战争！让我们伟大的先辈英勇的形象在这次战争中鼓舞着你们！让伟大的列宁的胜利旗帜引导你们！消灭德国占领者！我们光荣的祖国，我们祖国的自由，我们祖国的独立万岁！在列宁的旗帜下向胜利前进！”
斯大林在11月6日和7日的两次讲话的文本迅速在军队和人民中散发。每个苏联人都如饥似渴地阅读了斯大林的讲话。这些讲话极大地振奋了军队和老百姓的士气，它表达了他们对自己祖国的热爱和对残暴、狂妄的敌人的仇恨，同时也产生了重大的国际影响。
11月15日，德军再次向莫斯科发动攻击。德军不顾一切，不惜一切代价，用坦克在前头开路，妄图冲进莫斯科。德军的先头部队已冲到离莫斯科20公里远的地方，指挥官用望远镜已能看到克里姆林宫顶端的红星了。斯大林打电话给朱可夫：“你坚信我们能够守住莫斯科吗？我怀着内心的痛苦在问你这个问题，希望你作为共产党员诚实地回答。”
“毫无疑问，我们能够守住莫斯科。但是至少还需要增加2个集团军和200辆坦克。”朱可夫答道。
“你能有这样的信心，这不错。你打电话到总参谋部去接洽一下，看把你所要的2个预备队集团军集中到哪里。他们在11月底将准备好，但是坦克现在还不能给。”
苏军的顽强抵抗迫使德军未能再前进一步。德国的进攻也就慢慢停了下来。敌人一停下来，斯大林、朱可夫和铁木辛哥就立即计划冬季的反攻。
11月30日铁木辛哥发起了进攻并收复了罗斯托夫，他准备进攻德国中央集团军的侧翼，斯大林表示同意。
12月5日、6日，加里宁方面军、西方方面军、西南方面军相继转入进攻，并取得了惊人的成功。把德军向西击退了150公里，解除了对莫斯科的包围。希特勒遭受了第二次世界大战以来的第一次大失败。
1942年，苏军向德国发动总反攻，但是由于没有足够的预备队和炮兵支援，苏军又受到了一些挫折。在南部、苏军在塞云斯托波尔，哈尔科夫等地遭到失败。5月，苏军在刻赤、哈尔科夫相继兵败，7月塞瓦斯托波尔失守，苏军损失惨重。
1942年8月23日，德国人开始对斯大林格勒进行最后阶段的进攻8月底，苏军已经撤退到斯大林格勒防御区的中心。为了加强斯大林格勒大会战的指挥，斯大林把朱可夫从西线调开，同时任命他为副最高统帅。
9月3日，希特勒的一个坦克兵团冲到了斯大林格勒郊区，当华西列夫斯基向斯大林报告形势时，斯大林打断他的话：“你们怎么不懂得，如果我们放弃了斯大林格勒，我们的南部同中部的联系就将被切断，我们还能保持住南部地区？在那里的人员是否懂得，这不仅是斯大林格勒的灾难，而且还会失去一条水路干线，不久还将失去石油！”
华西列夫斯基回答说：“斯大林格勒城下一切还能作战的力量，我们都调集到危险地段上去了，我想，捍卫住城市还有可能。”
但斯大林不放心，他立即口授命令给朱可夫：“……敌人可能在今天或明天就把斯大林格勒拿下来。请您要求斯大林格勒以北和西北各部队的司令立即对敌人发动突击，支援斯大林格勒人……”
随后几天，朱可夫从北面组织了几次攻击。但是由于没有得到炮兵和空军的有力增援，这几次攻击没有取得明显效果。
9月10日，朱可夫用电话向斯大林报告说：“以斯大林格勒方面军现有的兵力，我们不能够突破敌人的走廊并与东南方面军的部队在市区会师。德军由于从斯大林格勒附近新近调来的部队，敌人的防御正面相当强大了。以现在的兵力和部署继续冲击是没有用的，而且部队必然要遭受重大的损失。”
斯大林听完后，要朱可夫和华西列夫斯基回莫斯科。9月12日，他们一起去见斯大林。“要消除敌人的走廊并与东南方面军会师，斯大林格勒方面军需要些什么？”斯大林问道。“至少还需要一个精锐的诸兵种合成集团军、一个坦克军、3个坦克旅和400门以上榴弹炮。此外，在作战过程中必须补充集中至少一个空军集团军。”朱可夫回答说，华西列夫斯基同意他的估计。
斯大林听完后，拿出最高统帅部预备队配置图，默默地研究着。朱可夫和华西列夫斯基从桌子旁走开，两个轻声交换意见，认为显然得另找别的解决办法。
“还有什么解决办法？”斯大林突然问，从地图上抬起头来。
朱可夫非常吃惊，想不到斯大林有这么好的听力。他们回到桌子旁，扼要地谈了大规模作战的计划。斯大林让他们回到总参谋部、制定一个计划，第二天晚上9点向他汇报。
第二天整天，朱可夫和华西列夫斯基坐在地图前，同总参谋部人员商量并制订出初步计划。晚上，他们来到斯大林的办公室。斯大林同他们打招呼时气愤地骂了一通丘吉尔，然后他又平静地说：“好吧，你们的意见是什么？由谁谈？”朱可夫和华西列夫斯基向斯大林汇报了大反攻的计划。取名“天王星计划”，计划由两支主力装甲部队采用钳形攻势向前突击，瓦图京的西南方面军的罗科索夫斯基的顿河方面军在北，叶廖缅科的斯大林格勒方面军在南。
就在朱可夫和华西列夫斯基向斯大林汇报这一大胆而果敢的构想时，斯大林格勒已进入残酷的巷战。德国军队攻进了城里，守城部队工人并肩战斗拼死抵抗。在这以后的两个多月的时间里，日日夜夜都在进行空前激烈的搏斗。最初，德国军队在西南方向的进攻速度是每昼夜前进几十公里，后来是几公里，9月是几百米，到了10月，这样的前进速度也没有了。从10月14日至11月19日，战斗就在房屋进行。
尽管德国在斯大林格勒投入了22个师的兵力，还有几乎相同数量的盟军一起行动，但德国国防军的战争机器却在原地空转。
1945年4月30日14时25分，苏军战士把胜利的红旗插到柏林国会大厦顶上。在斯大林格勒保卫战进入白热化状态的时候，大反攻的准备工作正在紧锣密鼓的进行。根据这一计划的设想，在大约60天的时间里，在斯大林格勒顿河地区集中了100万军队，13500门火炮和迫击炮，300多组火箭炮，110架飞机。这是又一次前所未有的壮举，是计划和组织工作的出色成就，每一阶段都是在斯大林积极直接指挥下由朱可夫和华西列夫斯基贯彻执行。
11月19日上午，瓦图京和罗科索夫斯基从北边发动进攻。第二天，在由于浓雾而推迟了几个小时后，叶廖缅科从南边发动进攻。11月23日，他们已在卡拉契附近会师，合围了德军第6集团军，还有第4装甲集团军的一个军。
斯大林立即指示华西列夫斯基集中力量开始实施土星作战计划，这是对被围困在斯大林格勒的敌人再加上一层合围圈的大胆攻势。这样，在苏联军队掌握了罗斯托夫以后，在高加索的德军的退路就被封堵了。
在南边，德国人匆忙重新组织他们的力量，建立了顿河集团军群，由陆军元帅曼施泰因指挥。他一直打到接近鲍卢斯防线25英里的地方。但鲍卢斯没有突围与他会师。12月24日，斯大林批准了一次反攻，把曼斯泰因赶回到科捷尔尼科沃，并且更向南赶了60英里。曼施泰因放弃了给鲍卢斯解围的努力。他集中力量防守罗斯托夫与塔曼之间的空隙，以便让高加索和库班的德军部队能够撤退。
在西边，土星作战计划国曼施泰因的进攻而作了修改，现取名为小土星作战计划，取得了成功，5天内前进了150英里。
在北边，朱可夫协调指挥的进攻迫使德国人退出了维亚泽马突出部，并把封锁列宁格勒的敌军打开了一个7英里宽的缺口。
1943年1月31日，德军南部集团军群投降。2月2日，北部集团也投降。德军在顿河、伏尔加河、斯大林格勒地域总共损失了约150万人，3500辆坦克，12000门火炮，3000架飞机及大量的其他技术兵器。这些损失对希特勒德国的整个战略地位产生了极大地影响，并彻底动摇了其整个战争机器。
1943年2月4日，罗科索夫斯基和沃罗诺夫奉召从前线回到克里姆林宫。斯大林热情地欢迎他们，祝贺他们所取得的胜利。正如罗科索夫所说，在这种场合，“他确确实实能够以他的热情和关心使人陶醉。”
1943年7月库尔斯克战役彻底摧毁了希特勒的主力，法西斯当局无论采取什么措施也不再能弥补在库尔斯克战役中的损失，从这时起，德国人只能退却。
1943年10月，苏军渡过了第聂伯河。11月6日基辅解放。两天后，日托米尔解放。在北面，9月25日收复了斯摩梭斯克，莫斯科彻底解除了受进攻的威胁。1944年，苏军先后解放了列宁格勒、克里木和敖德萨、明斯克。至此，苏军在斯大林的领导下，收复了被德军占领的所有国土。从1944年7月起。转入外线作战，先后解放保加利亚、匈牙利、捷克斯洛伐克。
1944年6月6日，英美军队在法国的诺曼底胜利登陆，自此开辟了斯大林等待已久的欧洲第二战场，加快了纳粹法西斯灭亡的速度。
丘吉尔想赶在俄国前面抢先攻占柏林。斯大林也非常重视攻克柏林的政治意义，他把朱可夫召回莫斯科，问他什么时候可以开始进攻，朱可夫回答说。他和科涅夫可以在两周的时间内向柏林发起进攻。但他没有把握罗科索夫斯基是否能够如此迅速的作好准备，斯大林说：“只好不等罗科索夫斯基就开始了，即使他迟几天也碍不了大事。”
1945年4月16日拂晓前，朱可夫和科涅夫的两个方面军开始进攻。4月23日攻入城内。4月30日，苏军直捣德国国会大楼，希特勒自杀。
5月1日凌晨，朱可夫往莫斯科打电话给斯大林，向他报告了关于希特勒自杀和收到戈培尔建议停战的信的情况。
斯大林回答说：“完蛋啦，这个混蛋！可惜没能活着把他抓到。希特勒的尸体呢？……告诉索科洛夫斯基，除无条件投降外。不要同克列勃斯或其他希特勒分子进行任何谈判。如果不发生特别情况，夜里别再打电话给我。我想休息一会。今天我们要举行五一节检阅。”
5月9日凌晨，德军元帅威廉·凯特尔代表德国统帅部签订了无条件投降书。这一天被宣布为反法西斯胜利日。
6月24日，在红场举行了规模盛大的胜利阅兵。斯大林站在列宁墓上，身旁是朱可夫元帅。阅兵由罗科索夫斯基指挥。这天正下着倾盆大雨，但丝毫没有使庆祝的盛况减色。步兵、骑兵和坦克兵通过泥泞的道路，由红场急驰而过。斯大林作为原苏联各族人民的领袖，作为红军的最高统帅，最终领导苏联人民赢得了反法西斯战争的最后胜利。
