如果说左宗棠指挥西征大军铲除并驱逐了进犯我国新疆的阿古柏匪帮，为北疆和南疆的回归立下了不朽的战绩；此后他亲率大军出关，以武力为后盾从俄国侵略者手中索回伊犁，更为伊犁回到祖国的怀抱和捍卫国土主权做出了永远值得称道的历史贡献。
原本左宗棠在同治十年（1871年）获悉沙俄侵占伊犁的消息后就非常愤慨，他曾致函刘锦棠，指出俄国“窥吾西陲”的阴谋，并下狠心“与此虏周旋”。俄国在入侵伊犁之后，也玩花招，向清政府表示只是“代为收复”，“俟关内外肃清，乌鲁木齐、玛纳斯等城收回之后，即当交还”。此时，俄国根本无法相信清政府能收复乌鲁木齐。
然而，左宗棠规复新疆的举动，表明中国不仅在北疆，甚至在南疆都取得了前所未有的胜利。中国从俄国手中收回伊犁按理说已不成问题。但是，俄国不仅在中国收复了乌鲁木齐、玛纳斯后拒不交还伊犁，就是南疆底定之后依然想赖账，拒绝了清政府提出的由左宗棠和其交涉索还伊犁问题。这样，清政府在光绪四年六月（1878年7月）决定派署盛京将军崇厚去俄国谈判收回伊犁。
清政府还就伊犁“交还以后，如何防守”问题令左宗棠“先事图维”。左宗棠对清廷偏倚外交谈判索还伊犁的做法只能表示同意，但他仍然强调：“前疏所称地不可弃者，窃以腴地不可捐以资寇粮，要地不可借以助长敌势力，非乘此兵威，迅速图之，彼得志日骄，将愈进愈逼。而我馈运艰阻，势将自绌，无地堪立军府，所担心的不仅西北也。
“伊犁收回以后，应于边境选择要地，筑垒开壕，安设大小炮位，挑劲兵以增其险……伊犁未收还之前，金顺大军驻库尔喀喇乌苏，其西精河地方，势处要隘，向驻马队，以资扼截。”可见，左宗棠对收复伊犁有他自己的主张，即他希望能用武力收回。
光绪五年八月十七日（1879年10月2日），崇厚在出使俄国后擅自在克里米亚半岛与俄国签订了丧权辱国的《中俄伊犁条约》。依照此约，俄国虽还我伊犁，但割去中国霍尔果斯河以西、特克斯河流域和穆素尔山口等要地，致使伊犁以西、以南险要尽失，俄国还攫得伊犁“代守费”和通商、免税等权利。消息传来，全国舆论纷纷，群情激愤。要求改约，甚至“街谈巷议，无不以一战为快”。
左宗棠更是气愤至极，他上奏指出：“武事不竟之秋，有割地求和者矣！兹一矢未闻加遗，乃遽议捐弃要地，餍其所欲，譬犹给犬以骨，骨尽而噬仍不止。目前之患既然，异日之忧何极！此可为叹息痛恨者矣。”他回顾了俄国在伊犁问题上使用的计谋，主张武力收复伊犁，并亲率大军出关。
他说：“俄人自占据伊犁以来，始以官军势弱，欲诳荣全入伊犁陷之以为质。继见官军势强，难以久留，乃藉词各案未结以缓之。
“此次崇厚全权出使，嗾布策先以巽词恬之，枝词惑之，复多方迫促以要之，它的用意盖以俄于中国未尝肇起衅端，可间执中国主战者之口，妄忖中国近或厌兵，未便即与决裂，以开边衅，崇厚全权出使，便宜行事，又可限制疆臣，免生异议……就事势次第而言，先之以议论委婉而用机，次决之以战阵坚忍而来获胜，臣虽衰庸无似，敢不勉旃！”他决定“率驻肃亲军，增调马步各队，俟明春冻解，出屯哈密，就南北两路适中之地驻扎，督饬诸军，妥慎办理”。他还“这段时间内外一条心，不可摧毁”，来收复伊犁。
清廷采用了左宗棠的建议，先是将崇厚革职拿问，交刑部治罪，再把崇厚定为斩监候，待秋后处决，并在光绪六年正月初三日（1880年2月12日）派驻英、法公让曾纪泽兼任驻俄公使，赴俄谈判修改崇厚所订的条约，并令左宗棠做好军事准备。
光绪六年四月十八日（1880年5月26日），左宗棠率领大军离开肃州（今酒泉市），出嘉峪关往哈密挺进。左宗棠为表决心，曾“舁榇以行”，甘愿拼死疆场。他68岁抱病出关，表现出的正是“壮士长歌，不复以出塞为苦，老怀益壮”的伟大爱国主义感情。
五月初八日（6月15日），左宗棠行抵新疆哈密，安排三路进兵来收复伊犁的军事计划：一路由金顺进驻精河从正面佯攻，以牵制俄军主力并且防止俄军向东进犯；一路由张曜从阿克苏越过天山进攻伊犁南部；一路由刘锦棠经乌什越冰岭直奔伊犁西面的后路。左宗棠对战局充满了必胜的信心。因此有的人说如果这次中俄之战真的按左宗棠的计划而进行，那将是他战场事业上新的里程碑，这是颇有见地的。
然而，正当左宗棠为收回伊犁积极备战的时候，清政府却在列强的胁迫与俄国的武力进逼面前，有改变以往在新疆问题上的强硬态度而转向妥协之意。首先，清政府对崇厚的处理，遭到西方列强的反对。列强纷纷向清政府施加压力，英国女王维多利亚亲自写信给慈禧太后为崇厚求情，俄国也声称如不对崇厚予以赦免，便不同曾纪泽进行谈判。
清政府迫于严峻压力，宣布免去崇厚的斩监候之罪。其次，俄国加快调兵遣将，对清政府进行武力恫吓，不仅往伊犁增点，还在黑龙江以北、乌苏里江以东部署重兵，并调集二十余艘军舰组成一支舰队由黑海驶往日本长崎，扬言封锁中国沿海，威逼京津。再次，英人戈登的游说确实起到了反面的作用。这个人曾任“洋枪队”头目，与李鸿章有私交，他此时受清政府请求，为中俄伊犁交涉调停。
戈登至天津面见李鸿章，威胁说：“如果你要作战，就当焚毁北京近郊，把政府档案和皇帝都迁到中心地带去，并且备战五年。”本来就不主张收复新疆且对崇厚签订条约加以支持的李鸿章非常紧张，他立即将“戈登赠言”呈予清政府，内称：“中国一日以北京为建都之地，则一日不可同外国开衅，因都城距海口太近，洋兵易于长驱直入，无能阻挡，此为孤注一掷。”
果然，清廷发生了动摇，七月初六日（8月11日）清廷以“现在时事乱亟，俄人意在启衅，正需老于兵事之大臣以备朝廷之顾问”为由将左宗棠调至北京。临战易帅刚好表明清政府在是否敢于以武力抗俄问题上犹豫不决。
七月二十四日（8月29日），左宗棠接到赴京“谕令”。他对清廷的用意虽不十分清楚，但也感觉到这次内调已意味着清廷的政策有所改动。因此，他在家书中说：“俄意欲由海路入犯，而在事诸公不能仰慰忧勤，虚张敌势，殊为慨然。我之此行本不得已，既奉朝命，宜当迅速成行。”他写信给帮办新疆军务的张曜说：“俄事尚未定议，而先以兵船东行，为恐吓之计，谟谋诸公便觉无可置力。国是混淆，计抵京时，错将铸成矣，能奈何！”但左宗棠仍对主战抱一线希望。
他致函总理衙门说：“从情形来看来，实非决之战胜不可。究之言战本是一条鞭法，无和议夹杂其中，翻觉愈有把握。”他奏请由刘锦棠接任督办新疆军务一职，以便继续抗击俄军，并致函刘锦棠说：“俄事非决战不可，连日通盘筹划，无论胜负如何，似非将其侵占康熙朝地段收回不可！”左宗棠期望着早日抵京，“拟从新鼓铸，一振积弱之势”。
左宗棠于十月十二日（11月14日）从哈密启行入关，经兰州交卸陕甘总督篆务后，又在十二月初四日（1881年1月3日）从兰州去往北京。
此时，曾纪泽正在俄国彼得堡谈判索还伊犁问题。在谈判过程当中，曾纪泽以左宗棠在新疆的布防为后盾，经据理力争，在光绪七年正月二十六日（1881年2月24日）与俄方签订了《改订条约》。此约较崇厚条约争回了一些主权，俄国交还伊犁与特克斯河流域及通往南疆的穆扎尔山口，但仍将霍尔果斯河以西的中国领土划还给俄国，且在赔款方面有增无减。这还是不平等条约。
恰在曾纪泽与俄国谈判代表订立条约之时，左宗棠经日夜兼程抵达北京。他得悉条约签订的消息后，气愤地说：“伊犁仅得一块荒土，各逆相庇以安，不料和议如此结局让人心寒！”左宗棠“一振积弱之势”的愿望未能实现，而他“不复以出塞为苦”的坚定反侵略举动，确实为伊犁的收回起到了至关重要的作用。
左宗棠为新疆长治久安计，在职期间四次奏请于新疆置行省，设郡县，他在调任两江总督后又做了第五次疏请。清廷采纳了他的建议，于光绪十年九月三十日（1884年11月17日）在新疆正式设省，以刘锦棠为第一任巡抚。至此，新疆与祖国的联系更加紧密。
成功箴言
男人的承诺是不应轻易更改的，当然除非是盲目的诺言，然而左宗棠却并非如此，在收复新疆的过程中，他所遇到的困难是难以想象的，但他却只认一个死理，就是坚决收复，并抬棺西征，这种宁死不屈的个性在当时的政坛却被利用，但他依然我行我素，勇往直前。
