正当日本国内就同德意结盟纷纷扬扬时，长期对立的苏联和德国突然签订互不侵犯条约。这与德日之间签订防共协定是根本矛盾的，使力主与德结盟的大岛浩大使狼狈不堪，日本国内一片哗然。8月25日，平沼内阁召开最后一次五相会议，决定停止三国同盟条约的工作，8月28日全体辞职。米内光政也因此离开海军大臣的位置。由于不愿看到山本在海军省被杀，米内推荐了吉田善吾担任海军大臣，让山本接任吉田联合舰队司令长官兼第10舰队司令长官职务。
4.偷袭珍珠港
摆脱海军省，担任联合舰队司令长官，令山本五十六的心情格外畅快。
因为从此以后，伴随着他的，不再是次官邸那昏暗的光线和沉闷的空气，也不是终日监视着他并给他生命带来威胁的右翼分子的眼睛，而是明媚的阳光，新鲜的海风和时刻保卫着他的4万联合舰队官兵。
不知是偶然的巧合，还是冥冥之中的安排，山本五十六接任联合舰队司令一职，正值时年56岁，与他父亲生他的那一年同岁。
雄心勃勃的山本，似乎对他的这一任职充满了自信。报纸以“飞向波涛起伏喧闹的大海——时隔六载后的出征，威严的山本提督”为题，对山本的任职进行了大肆报道：
就任海军联合舰队司令长官的山本中将，精神振奋，从他的面部表情中看得出，他对天皇陛下的信任充满了感激之情并决心效忠于天皇。他身穿一套十分合体的雪白军服，迈着矫健的步伐步入海军省会见了记者。山本提督素不饮酒，可是今天却破例地将一杯酒一饮而尽。接着，就开始了他任提督后的首次答记者问。
面对记者的提问，山本答道：“这次身负如此重任，实感惶恐，愿尽我微薄之力为国效劳。受命任联合舰队司令长官，此乃一军人之最高荣誉。我已下定决心，誓死尽职。”8月31日，身着白色军礼服、左胸前佩戴着一等瑞宝勋章的山本，在东京火车站站长的陪同下，走下了贵宾候车室的阶梯。站台上早已挤满了前来为他送行的人，有地位显赫的将军，无处不在的新闻记者，山本的亲朋好友，也有花柳界那些使他夜不归宿的相好。
下午1时整，临时增发的特快列车“海鸥”号，载着山本徐徐驶离东京。同6年前离别战舰一样，山本摘下了头上的军帽，轻轻地挥动着，和送行的人们告别。路基两旁的建筑物、树木等急速地向后退去，月台上的人们越来越模糊了，很快就消失在山本的视野之中，唯有为他送行而击打的太平鼓的声音还隐约可闻。
9月1日，山本到达大皈和歌之浦联合舰队驻地。在舰队特意安排欢迎他的吹管乐的嘀嗒声中，山本登上了联合舰队的旗舰“长门”号。他诙谐地对副官藤田中佐说：
“长官这个称呼不错嘛！很吃得开嘛！海军次官算什么，不过是个高级勤杂工而已。”
山本作梦也没有想到他会在这个挺吃香的职位上丧命大海。如果说他在这一天登上“长门”号有什么不吉利的暗示的话，那就是稍后传来的德国军队全线进攻波兰的消息。
两天后，英国、法国分别对德宣战，第二次世界大战全面爆发。
9月5日，踌躇满志的山本五十六，第一次向联合舰队的全体官兵发表讲话：
“鄙人虽不谋该职，但天皇陛下授命，只好就任，值此，深感责任重大。
“不言而喻，今天欧洲的形势，乃世界再度出现大动乱之先兆也。值此风云突变之时，吾深感帝国海军任重道远。望全体官兵更加同心协力，自重自爱，不辞辛劳，昼夜兼练，以保持联合舰队之最高威力，担负起保卫国防之重任，不负于天皇陛下之所望。”山本上任后不久就恢复了因交接而中断的日常训练。他第一次站在“长门”号上看着由自己亲自指挥的这支世界第三大舰队拨锚起航。
“离港还有15分钟，各舰航海值班人员各就各位。”一声令下，各舰从舰首到舰桥，立刻呈现出一片紧张繁忙的气氛和景象。总共80艘大小战舰井然有序，烟囱里冒出的黑烟笼罩了整个和歌之浦码头。“第2战队第1号舰正起锚。”随着报告声完毕，“长门”号的汽笛发出一声长呜，下达了“立即出港”的命令。
负责舰队警戒任务的潜艇部队最先驶出港口。山本手里拿着双筒望远镜来到舰桥。他一边听着航海科传令兵关于各战队各舰的行动情况报告，一边直接观察着舰队出港。传令兵继续报告：
“第4战队正在出港：‘高雄’、‘爱宕’、‘鸟海’、‘摩耶’出港了。”“后面是‘伊势’出港了，‘日向’、‘扶桑’出港了。”“‘赤城’、‘加贺’、‘苍龙’、‘飞龙’第1、2航空战队依次出港了。”当山本看到随后驶出的庞大的航空母舰时，他的眼睛好像一下明亮起来：现在该是将自己的航空战术思想付诸实践的时候了。
山本首先改变了老一套的训练方法。在海军，舰队夜间出入港口是舰队训练中难度很大且有危险的科目，稍有失误，就会发生损伤“天皇军舰”的事故，情节严重者要受到切腹的惩罚。因此在已往的训练中，一般是各舰都要打开信号识别灯，并以无线电保持各舰间的通信联络，以免发生军舰相撞毁伤舰只的事故，这已成为联合舰队不成文的惯例。但山本认为，这是不符合实战要求的。因为战时，舰队出港是不允许打开信号灯和使用无线电的，即使使用微弱的无线电波联络也是被禁止的。他要求各舰一律不准开信号灯，并关闭舰上的无线电联络装置。舰与舰间保持一定距离依次跟着各自的旗舰摸黑前进。
这是难度相当大的出入港训练。几万吨的庞然大物，启动后的惯性是相当大的，在黑暗中各舰保持一定的距离和准确的方向，使舰上人员高度紧张。一旦发现舰与舰间的距离过近时，靠舰上机械的制动能力是很难抑制住巨大的惯性的。山本的目的就是要训练日本海军的夜战能力。
山本五十六在海上进行实战训练。接着山本在完成前任总司令官吉田善吾制定的年度训练计划后，到1940年便改以他心中构思已久的以航空兵力为中心的训练1940年3月，山本为了检验海军航空兵的攻击能力，安排了一次代号为“123号作业”的演习。演习的计划安排是，驻在志布的舰队从有明湾出发，经过九州东岸北上，向佐旧湾进发；航空队则搜索北上的舰队并利用夜间对舰队实施轰炸。
指挥鱼雷轰炸机的是“赤城”号航空母舰飞行队长渊田美津雄少佐。他在发现山本五十六的舰队之后，便紧紧盯住山本的座舰——旗舰“长门”号。“长门”号打开探照灯，试图扰乱追踪飞机的视线，并用高射炮向空中的飞机猛烈射击，同时，加快舰速拼命躲避。渊田率飞机巧妙地躲开了高射炮的反击，连连向舰上投放训练用的鱼雷炸弹，弹不虚发，发发命中。
看到这一情景，山本心中十分高兴。
如果仅就地位和荣誉而言，山本应当满足了。因为在日本海军中，海军省、军令部和联合舰队是三位一体的。海军省负责海军行政，参与内阁决策；军令部就是总参谋部，负责军令、作战计划和训练；联合舰队司令部是执行机构，是负责指挥作战的最高机构。作为联合舰队的司令长官，也就是一名海军军官的最高荣誉了。
可是山本并未陶醉在荣誉和地位的光环里。
手扶旗舰“长门”号栏杆，望着纪洲海面上80多艘穿梭往来的军舰，山本陷入沉思之中。国际局势日益恶化，日本的对外扩张欲望如脱疆的野马，海军中的激进分子正蠢蠢欲动……作为世界第三大舰队的司令长官，责任重大啊！献身天皇的责任感和使命感使山本五十六的心情突然显得格外沉重。
他在给岛田繁太郎的信中写道：“当前，欧洲出现了大动荡，每当想到我们日本与德、意之间的关系，就使我不寒而栗。”
为了应付可能发生的战争局面，他一面指挥舰队日常训练，一面针对欧洲战场局势的发展，特别是美国海军的发展和夏威夷太平洋舰队对日本造成的威胁，把日本海军防御线从小笠原群岛连结马里亚纳群岛推进到从东卡罗林群岛到马绍尔群岛的防线。
令山本五十六最不愿看到的事情终于发生。随着欧洲战场的急剧变化，荷兰、法国宣布投降，日本军部首脑感到无比兴奋。他们把眼睛盯上了英法等欧洲国家在东南亚的殖民地，企图趁其无暇东顾之际，将这些殖民地据为己有，控制太平洋，也从根本上打击亲英美的蒋介石。
发动了侵华战争的近卫文在第二次组阁前，召集陆相东条英机、外相松冈洋右和海相吉田善吾，在其私邸获洼山庄举行了“荻洼会议”，制定了新内阁的行动方针，其中包括建立“大东亚新秩序”，尽快解决中国事变，与德意签订三国同盟条约等内容。1940年7月26日，近卫内阁通过了《基本国策纲领》，三国同盟问题再次提上日程。
闻听此讯，正在海上训练的山本五十六大为震惊，他多次上书吉田善吾海军大臣，陈述与德意签订同盟条约的危害，指出为避免日美冲突，绝不可缔结日德同盟。然而，吉田未能阻止同盟条约的签订。尽管山本在海军首脑会议上极力反对，新任的海军大臣及川古志郎强行通过了海军同意三国同盟条约的决定。三国同盟条约遂于9月27日在柏林签署，约定三缔约国中任何一国遭到尚未参战的国家的攻击，三国须用所有政治、经济和军事手段相互援助。日本彻底绑上第二次世界大战的列车。
局势的变迁终于把山本作为一个悲剧性角色推到历史的前台。他在内心深处反对同美国交战，但作为联合舰队司令长官的职责又必须面临同美国交战；对英美国家的了解使他深知战争必败，但效忠天皇的武士道精神又迫使他必须夺取战争的胜利。
在回答首相近卫文的询问时，山本无可奈何地说：“如果非打不可的话，在开始的半年或一年中，可以奋战一番，并有信心争取打胜。如果战争持续下去，以至拖上二三年，那我就毫无把握了。三国同盟条约已经缔结，只有破釜沉舟背水一战了。尽管如此，我还是希望政府能设法回避同美国交战。”可见，山本五十六当时的心情非常矛盾。然而，局势的迅速恶化已经不允许他怨天尤人了。
在同他的间谍秘书原田一起进餐时，山本忧郁地说道：“在我看来，我们要同美国打仗，就必须作好几乎向全世界挑战的准备……我将竭尽我的全部力量，但是我希望战死在我的旗舰‘长门号’的甲板上。在那些不祥的日子里，你将至少3次看到东京被夷为平地。其结果将是延长人民的痛苦。而你和近卫，还有其他人，也许会被人民群众千刀万剐，尽管想起这种情景是很遗憾的，局势确实令人困惑。我们已经陷入这种困境，命运注定在劫难逃。”
既然日本早已使自身走向一条既定的道路，山本也没有多少选择的余地。更何况山本本人毫无疑问也是一名深入骨髓的军国主义者。他的好战心理源于他根深蒂固的武士道传统，他像当时大多数的日本人一样，相信只有日本人才完全符合逻辑地充当亚洲国家的“救世主”，将亚洲从白种人的统治之下解放出来。
他陷入了两种磨难之间：一方面，他看到资源贫乏的日本不仅要与美国，而且还要和中、英、荷，也许还和苏联同时作战的暗淡前景；另一方面，他要承担作为联合舰队司令长官必须执行的职责的压力。为了取得印尼的石油，向南方作战，必须避免美国太平洋舰队从夏威夷出发打击日本的侧腹，还需要把美国太平洋舰队阻挡在南方水域之外，至少在头几个关键月份中应做到这一点。如何才能办得到呢？自山本登上“长门”号之后，他就在苦苦思索这个问题。
山本认为，依靠海军历来对美作战的正统的战略思想，是不可能完成上述任务的。长期以来，日本海军奉行的是以日俄对马海战为依据的大炮巨舰主义的舰队决战战略，坚持以战列舰为核心的传统作战方式。自从1905年日本海军大将东乡平八郎在日本海大海战中大胜沙俄舰队以来，日本海军就充满着海上争霸思想，并把美国视为其在西太平洋争夺海上霸权的主要敌人。日俄战争以后，日本在1907年制订的《帝国国防方针》和《帝国用兵纲要》就提出了建设“八八舰队”、确定对美采取截击作战的战略方针。所谓截击作战，就是基本原封不动地采用在对马海战中截击歼灭沙俄波罗的海舰队的东乡战略，即以战列舰为主力的联合舰队利用地理条件以逸待劳，伺机同美国海军主力进行决战并加以歼灭。以后虽几经修改，但其基本方针未变。在1936年修订的《帝国用兵纲要》中规定：一旦日美开战，陆海军首先协同攻占菲律宾和关岛，迫使美舰队远渡重洋进至西太平洋实施进攻作战，“我则把前卫线推移到马绍尔群岛一线，使主力舰队在小笠原群岛和马里亚纳群岛一带求笛决战。”
日本的海军将领们把未来事件的进程看成是这样：一支强大的美国舰队向西挺进，长途跋涉远道而来。这时，日本以南洋各群岛为基地，用潜艇和陆基飞机不断削弱美国舰队的力量，待其实力削弱到大体和日本舰队的实力相匹敌或弱于日本舰队时，以战列舰为核心的日本舰队进入有利的战略位置，寻机与之决战；双方都横过空阔的洋面，把各自的舰只排成战斗序列，打出所有的炮弹，当硝烟和火光散去之后，日本的胜利将自然浮现出来，美国的钢铁巨兽将一只跟一只地凄凉地瘸着脚朝家逃窜，或者舰首向上，如同向大海行死亡前的敬礼，然后永远消失。在山本看来，这种战略思想是一厢情愿的，不过是军令部的那些年轻参谋脱离实际的纸上谈兵而已。战争一旦爆发，除侥幸外，谁也不会相信战争会按着这个模式发展下去。山本的好友掘涕吉在战后整理的《五峰录》中总结山本的看法时说：不论是海军大学所进行的沙盘演习，还是军令部所提出的对美作战的战略计划，实际上都是脱离实际的主观臆断，是主观主义的产物。以军令部的作战计划而论，如前所述，概括起来包括这样四点内容：一、日本主动攻下菲律宾；二、迫使或诱惑美国舰队前来救援；三、在马里亚纳群岛一带逐步削弱敌舰队的力量；四、进行舰队决战，一举全歼前来之敌。这纯属用想当然代替现实的概念游戏。是把敌人的行动规范在自己想象之中的脱离实际的主观臆断，不过是一厢情愿而已。既然如此，那么对于保证日本侧翼不受美舰队干扰，同时又要把主力用于南方战役的课题，山本就必须找到有效的答案。
