但由于长期以来，史迪威与蒋介石在诸多方面意见不和，致使蒋多次致电美国总统罗斯福，要求召回史迪威。罗斯福为了美国在华利益，于10月5日给蒋发了回电。这封电报是他和马歇尔互相妥协的产物，虽然在文字上采用了一些马歇尔的强硬措词，但在实质上表现了罗斯福对蒋介石的让步。电报对蒋介石取消授予史迪威指挥权的协议表示“惊讶和遗憾”，非常体面地宣布由于中国战场形势的严重恶化，美国政府不再承担任命一名美国军官指挥中国军队的责任；同时，电报同意免去史迪威中国战区参谋长的职务和管理租借物资的责任。电报只提出了一项要求，让史迪威继续指挥在云南和缅甸的中国军队。
史迪威敏锐地指出：“这是个软弱的有条件投降。”
尽管史迪威的处境已十分艰难，前景已非常迷茫，但他仍然以高昂的热情、坚韧的精神，密切关注着抗日战场。
10月6日，史迪威飞往密支那，看望了那里的部队，检查了进攻八莫的作战准备情况，工作了通宵。
10月14日，史迪威飞往柳州，与白崇禧、张发奎一同研究了广西的防御部署。
10月19日，乔治·马歇尔来电告诉他，罗斯福已致电蒋介石，同意把他从中国召回。罗斯福的电报随后到达重庆，把上述决定通知了蒋介石，但总算维护了一点史迪威的名誉——肯定了他指挥缅北反攻、夺取密支那的重要功绩。
在随后的1天半时间里，史迪威怀着愤怒而沉重的心情，匆忙地向各方面的友人告别。
他致函延安的朱德将军，表示“对不能与您和您的不断壮大的杰出部队并肩抗日深感失望”。同时，他命令美军观察组的约翰·谢伟思返回华盛顿，报告延安的情况，以说服政府与共产党及其军队建立联系。
他看望了孙中山夫人宋庆龄，“她哭了，很苦恼。”不到1个月前，宋庆龄曾会见史迪威，希望他能代表中国出席世界和平大会。她认为，史迪威“比中国人更能为中国办事”，“是替中国人民说话的”。
他给美军援华空军军官陈纳德留下了一封很有礼貌的信，对他取得的显著战绩和中国人对他的爱慕而感到骄傲。他从未把陈纳德看作是竞争对头，而只是认为他有点异想天开和桀骛不驯，是个不懂规矩的下属。
他向高斯大使辞行，得知他已决定辞职。由于赫尔利牢牢地拉住了蒋介石，高斯大使几乎无事可做。高斯离开重庆后，赫尔利如愿以偿地就任驻华大使。
蒋介石派了军事委员会的一名下级军官，给史迪威送来一枚最高等级的青天白日大绶章。史迪威派一名同等级别的美国军官谢绝了。蒋介石还是彬彬有礼地约见了史迪威，“蒋介石说他对这一切感到十分遗憾；我为中国做了许多事，训练部队——领导部队，等等。只是由于我们性格上的不和，他才要求把我解职。”史迪威最后对蒋介石说：“无论你对我怎样看待，请记住，我的唯一目的只是为了中国的利益。”蒋介石甚至一直把他送到大门口。
10月21日午后，史迪威乘坐的飞机离开重庆。
在飞赴印度的途中，他在昆明、保山、密支那、兰姆加尔稍事停留，看望了那些一起战斗过的部队和军官们，看了看留下了他的足迹的山岭、密林、道路、河流。但他不能向他们正式告别，华盛顿命令他必须对他的部队和军官严守秘密。
10月27日，史迪威离开了中缅印战区最西端的卡拉奇。“黎明时离开机场。8点，最后看了一眼中缅印战区。”他满怀感慨地写道：“一个人的经历，在广阔的世界里和战争的洪流中，变得那么无足轻重。”尽管他已是名声显赫的四星上将，可美国总统更需要中国。在罗斯福的眼里，蒋介石就是中国。同蒋介石的中国相比，他宁肯牺牲一位“无足轻重”的将军。
1945年1月23日，他被任命为美国陆军地面部队司令，职责是负责国内部队的训练工作。
两天以后，从中国传来消息，他曾经付出巨大艰辛的中印公路于1月25日正式通车。从印度利多开出的第一批105辆卡车，满载着武器、弹药、油料，拖曳着重炮、山炮、高射炮，轰轰地开进中国云南。翌日，云南的门户畹町举行了隆重的通车典礼。2月4日，车队开抵昆明，10多万群众涌向路旁，挥舞着标语和小旗夹道欢迎。
蒋介石发表了讲话，他说：“我们已经打破了对中国的封锁。为了纪念约瑟夫·史迪威将军的卓越贡献，和在他领导下的盟军以及中国部队，对缅甸战役和这条公路的修筑所发挥的巨大作用，我把这条公路命名为‘史迪威公路’。”中缅印战区的美军已一分为二，魏德迈任中国战区美军司令，索尔坦将军任缅印战区美军司令。索尔坦根据蒋介石的决定，正式发布命令，宣布了对“史迪威公路”的命名。他在给史迪威的来信中说，打通这条道路的是“您不可征服的意志”。据统计，从1945年2月至8月，共有386支车队沿着史迪威公路向中国运送了8万多吨物资。
广播电台的陆军节目邀请史迪威为此发表讲话。他对着话筒，仿佛就面对着曾在丛林里作战和筑路的士兵与劳工们，他称赞了他们的伟大贡献，向他们致敬。但他没提自己，好像他根本就没去过那里似的。2月10日，美国政府为表彰史迪威的功绩，授予他一枚荣誉军团勋章和一枚优秀服役勋章。
战争仍在激烈地进行。1945年1月，太平洋西南战区的美军部队，在麦克阿瑟将军的指挥下进攻吕宋岛，随即向马尼拉进军。2月，海军上将尼米兹率领的太平洋中部战区部队在硫磺岛登陆。史迪威密切注视着战场形势的变化，仍盼望着有一天能指挥美国军队对日作战。根据第二次魁北克会议的决定，盟军已把太平洋作为对日战争的主要战场，同时准备在中国沿海登陆，以消灭大陆上的日军。美联社2月7日发表的一篇文章曾在评述这一计划之后，分析了能指挥中国沿海登陆作战的军官人选，其排名顺序依次是史迪威、麦克阿瑟和尼米兹。
4月，美军对太平洋上的指挥系统作了调整，麦克阿瑟任太平洋美国陆军总司令，尼米兹统率太平洋地区的所有海军舰队。同月，罗斯福逝世，副总统杜鲁门继任。5月，马歇尔安排史迪威到麦克阿瑟的太平洋前线视察，顺便也看看那里有没有合适的指挥位置。
史迪威和麦克阿瑟是仅差一届的西点军校同学，彼此非常熟悉。麦克阿瑟很热情地接待了他，向他介绍了前线情况，并为他安排了视察活动。美军在太平洋上正迅速推进，菲律宾的战斗已基本结束，硫磺岛也已占领，冲绳岛和塞班岛上的战斗正激烈地进行。6月18日，史迪威准备回国，麦克阿瑟又与他亲切交谈。他问史迪威是否愿意担任他的参谋长，史迪威摇了摇头，对他说：“我认为我适合当一名前线司令官。”麦克阿瑟又问他，作为一名四星上将是否可以担任集团军司令。史迪威答道：“只要让我带兵打仗，哪怕指挥一个师也行。”可是，当时确实没有位置可以安排。第二天，史迪威只好离开前线回国。当他抵达夏威夷的火奴鲁鲁时，突然接到麦克阿瑟的电报：“立即返回关岛，指挥第10集团军。”原来，该集团军司令巴克纳将军在冲绳指挥作战时，不幸被弹片击中身亡，史迪威侥幸得到一个指挥位置。
6月23日，史迪威正式就任第10集团军司令。但在同一天，美军已基本占领了冲绳岛。以后的战争进程更是急转直下，史迪威终于还是没能指挥美军部队进行一次大规模的战役。
8月6日和9日，美国先后在日本广岛和长崎投下了原子弹。
8月8日，苏联远东方面军向日本关东军发动大规模进攻。
8月14日，日本宣布无条件投降。
“战争就这样结束了。”史迪威带着喜悦和无奈的复杂心情在日记里写下了这句话。
9月2日，史迪威出席了在东京湾“密苏里”号战列舰上举行的日军投降签字仪式。7日，他又亲自主持了琉球群岛日军的受降仪式。
1946年9月28日，一贯坚强地与各种困难斗争的史迪威，终于被病魔击倒，住进了旧金山的莱德曼陆军医院。
10月3日，医院里最好的外科医生给他作了手术检查，发现胃部的癌变已到晚期，并且已扩散到了肝部。显然，他的病已经很久了。人们回想起，在1944年反攻缅北时，他就时常胃疼。回到重庆后，他也没有去检查。
史迪威已到了弥留之际，他提出希望得到一枚战斗步兵纪念章。这是一种极普通的奖章，凡在第一线战斗过的士兵都可以获得。史迪威作为战斗一生的四星上将，已获得了很高的荣誉，包括一枚荣誉军团勋章，一枚优秀服役十字勋章，两枚优秀服役勋章，但他渴望得到作为一名火线战士的荣誉。10月11日，陆军部满足了这位老战士的最后希望。
第二天，1946年10月12日，史迪威将军在昏迷中与世长辞，走完了他63年的人生路程。
