以托尔布津为首的撤离雅克萨的残匪，又伙同从尼布楚方而派来的沙俄侵略军，乘战争的硝烟刚刚停熄的瞬间，重新窜回雅克萨。匪徒们在雅克萨重新修筑工事，企图盘踞在中国这块土地上。沙俄侵略者再次侵占雅克萨，立即引起中国军民的警觉。蒙古族群众首先得知这一消息，立即报告给清军。当地人民，还以向沙俄匪徒交纳实物税作掩护，深入匪巢，刺探敌情。索伦族副总管乌木尔代率本族健儿，在雅克萨附近浦捉匪徒，弄清了哥萨克盘据雅克萨的真实情况。情报传入北京后，康熙立即指出：“今罗刹复回雅克萨筑城盘踞，若不速行捕剿，势必积粮坚守，图之不易”。并命令萨布素等速修战船，准备统领大军攻取雅克萨。康熙还单独召见郎谈，亲自布署战斗。他指出：“尔等此行，宜慎之，当如前降旨晓谕：尔罗刹外国人贪利弃命，扰我边疆，今大兵复至，当速降。如不降，则尽诛之。若得雅克萨城，即往尼布楚，事毕，还驻兵于雅克萨过冬。勿毁其城，亦勿损其田禾。”吸取了第一次雅克萨战争的教训。
康熙二十五年七月，萨布素等奉命再次统帅二千名大军，从水陆两路攻取雅克萨，严惩沙俄侵略者。
康熙在第二次雅克萨战争期间，仍致书沙皇，继续坚持通过和平谈判的途径解决边界问题。康熙在这年九月指出：翻罗刹侵犯雅克萨、尼不潮（楚）诸地，扰我居民，边境骚然。曾谕鄂罗斯察罕汗来使尼果赖等撤回其众，自后竟不奏，反在在侵犯，肆行扰害”。第一次雅克萨战争后，又令其投降的侵略头目托尔布津等“持书归去”，仍无消息扮现将屡次向沙皇提出谈判的情节，“备悉作书”，通过来华的荷兰使团和回欧洲的传教士阂明我等人带去。再次建议双方举行谈判，共同商定：“于何处分立疆界，各毋得逾越，则两界人民均得宁居，不失永相和好之意”。
第二次攻取雅克萨的清军，曾多次击溃出击的俄军，并于城外“掘长堑、立土垒以困之”。经过半年左右的时间，龟缩在城中的八百二十六名哥萨克，只剩下一百五十人，侵略头目托尔布津也被流弹击毙。沙俄侵略者己弹尽粮绝。清军又在雅克萨“城南、北二处，筑高台，架大炮，欲攻城”，雅克萨城指日可下。在中国军民的沉重打击之下，沙皇政府开始认识到使用武力侵占中国黑龙江地区的目的是不可能达到的。决定派使臣魏牛高等到北京要求和谈。
3 千年不遇——唯一一个平等条约《尼布楚条约》签订内幕
《尼布楚条约》签订是清政府与一个大国签订的少有的平等条约，作为战胜方签订此条约也并非一帆风顺。
康熙二十五年十一月十二日，俄使魏牛高等到北京，呈递了沙皇给康熙的信件。清朝政府立即派大学士明珠等同俄使进行停战谈判。沙皇给康熙的信中，一面诬指“中国皇帝之军队来我边界，我属下人并未作恶滋事，中国皇帝为何缘由”即行出兵？”同时又威胁说：俄国“方派不可胜数之精兵，令其抵挡你军”。
明珠有力地驳斥了沙皇的谎言，指出：中国“向无伤犯尔国之处，尔国人却无故以枪炮杀掠我居雅克萨等地守我器械之虞人，并屡次纳我逃人”。“并窜入我黑龙江下游亨滚等地，骚扰滋事”。“如此骚扰滋事之处，曾多次向察罕汗（即沙皇）颁救遣人，并无复奏，也未加制止滋事之人”。明珠还指出：“如今你奏文中，若谓我先进犯，则你俄罗斯人过雅克萨，近二三千里，直入我亨滚等地，骚扰滋事，一所拿获者至今尚在，问其于何地被擒甚明”，“此谓我先下手或谓你先下手？”
明珠等有理有据的指出沙俄侵略者是挑起这场战争的罪魁祸首，中国是被迫进行自卫反击的，驳得“俄罗斯使者无言以对”。当时，清政府从大局出发，为促进早日举行和谈，决定单方面撤军。康熙在十一月十三日谕大学士等说：“鄂罗斯察罕汗以礼通好，驰请解雅克萨之围。朕本无屠城之意，欲从宽释。其令萨布素等撤回雅克萨之兵，收集一所，近战舰立营，并晓谕城内罗刹，听其出入，毋得妄行攘夺，俟俄罗斯后使至定议”。同时，康熙又致书沙皇，同意撤雅克萨之围和举行边界谈判，交魏牛高带回俄国。子是双方派人到雅克萨下达停战令。
十二月，康熙派亲军侍卫马武到雅克萨前线，宣布清军无条件停火，“回驻大营，合兵防守”。在此期间，清军按康熙的指示，给雅克萨守敌许多方便。允许他们“可以到黑龙江取水”，“由尼布楚到雅克萨可以允许通行”，“如果被围城中缺少什么，城内守敌可以向军队长官说明，他们将下令予以帮助”。康熙二十六年一月“罗刹酋长杯敦遣人来求饮食”，清军立即给予接济。二月间，康熙派医生到雅克萨为清军将士治病，并对萨布素指示说：“至于罗刹，虽与我兵对垒，但我兵攻雅克萨城，从未诛戮其人。如城中有患病之罗刹.，亦应听其就医，使还彼国”。康熙二十七年八月，清军全部撤离雅克萨，返回瑷珲等地。这一切都说明以康熙为首的中国政府对和平谈判的诚意，并为中俄谈判创立了有利条件。
当时，中国政府派索额图为谈判代表。康熙当面指示索额图说：“罗刹犯我边界，交战于黑龙、松花、呼玛尔诸江，据我所属尼布潮、雅克萨地方，收纳我逃人根特木尔等。及我兵筑城黑龙江，两次进剿雅克萨，攻围其城，此从事罗刹之原委也。”这里，康熙概括而有力的指出，沙俄对中国的侵略和中国进行自卫反击的过程和性质。康熙还指出：“黑龙江之地最为扼要……环江左右均系我属鄂伦春、奇勒尔、毕喇尔等人民及赫哲、飞牙喀所居之地。若不尽取之，边民终不获安。朕以为尼不潮、雅克萨、黑龙江上下及通此江之一河一溪，皆我所属之地，不可少弃之于鄂罗斯。”康熙表示决心收复被沙俄侵占的中国领土。
康熙二十七年五月，索额图等从北京出发，经居庸关、张家口、归化（今呼和浩特）等地，继续北行，穿过“寸草不生，地无勺水”的沙漠地带，七月下旬到达克鲁伦河附近。这时，正是噶尔丹叛军，在沙俄的支持下，打败了我土谢图汗指挥的蒙古军队，噶尔丹率军横冲直撞，使中国谈判使团无法通过，索额图等只得返回北京。康熙为恢复和稳定南方社会经济和统治秩序，特别是为了集中力量打击噶尔丹叛乱集团，迫切需要同俄国实现和平。因此，在康熙二十八年六月，索额图第二次出使之前，康熙再次指示索额图，在谈判中仍以上次指示为原则，但“彼使若恳求尼不潮，可即以额尔古纳（河）为界”。他希望同俄国谈判能够早日达成协议，愿意作出重大的领土让步，宁可将从贝加尔湖以东到尼布楚这一地区让给俄国。康熙的这些指示，就是中国代表同沙俄代表谈判的指导方针。
俄国政府指派戈洛文等为同中国进行谈判的代表。沙皇给戈洛文的训令中指出：在谈判中要坚持“应以黑龙江为界”，“若中国皇帝的军事长官说，由于黑龙江注入大海，并流入中国的城郊和领土，不能以黑龙江为界”，则“至少应提出以注入黑龙江的比斯特拉河（即牛满河或精奇里江为界”。再达不到要求，则提出以雅克萨为界。但要在牛满河和精奇里江保留中俄两国共同的渔猎场。如果中国人“毫不让步”，“不愿根据上述条件缔结和约，大使必须依照沙皇陛下的命令和西伯利亚部的军事训令采取行动（关于作战的行动）”。还训令戈洛文向喀尔喀蒙古土谢图汗投递文书，要求他在中俄一旦发生战争时，以全部兵力援助俄方，“为了达到这一目的，大使们应不惜赠送任何礼物”。沙俄政府企图通过谈判的手段达到侵略我国的目的。否则，就要诉诸武力，并企图引诱喀尔喀蒙古王公叛国投俄，进行里外夹击。充分暴露了沙皇政府的侵略野心。
康熙二十八年二月，戈洛文等从莫斯科启程。他到贝加尔湖以东地区后，施展各种伎俩诱骗蒙古王公叛国投俄，但都遭到可耻的失败。戈洛文又对喀尔喀蒙古使用武力，并支持噶尔丹叛军。乘机对喀尔喀蒙古上层人物施加压力，迫使他们投俄，但又遭到大多数爱国王公们的拒绝。
康熙二十八年八月，双方代表在尼布楚经过初步磋商，定于二十二日举行会议，地点在尼布楚城与河岸之间，临时搭设帐篷为会场。双方商定，两国使臣“应在每一件事上平等”，“任何一方不凌驾于对方之上”。双方各带三百名卫士赴会，士兵“除佩刀剑外，不带任何武器”。还商定，在会场外各置五百名卫队。
康熙二十八年八月二十二日，第一次谈判正式开始。俄方代表戈洛文采取恶人先告状的手法抢先发言。他诬指康熙“未经宣布，突然派兵侵犯沙皇陛下国界”，首先挑起战争。沙皇为此派出“无数精兵，携带大批弹药”，前来“讨平敌人”，中国应赔偿俄国的“损失”。并强迫中国政府接受“两国以黑龙江至海为界”的条件，企图割据黑龙江以北的中国广大领土。中国代表索额图针锋相对地严正指出：嫩河、尼不楚系我国所属茂明安诸部落旧址，雅克萨系我国人阿尔巴西等故居，后为所窃据”。由于俄国人侵入中国雅克萨等地，给当地中国居民造成严重危害，因此，中国才被迫进行自卫反击战争。索额图根据事实揭露沙俄侵略中国的过程，“细述其原委”，力“斥其侵犯之非”。并宣称：康熙“并未谕令他们向沙皇陛下方面割让一寸领土，同时没有令他们去新占对方领土”。戈洛文理屈辞穷，竟蛮不讲理地说：“没有时间来讨论历史事实”。使第一次谈判没有取得任何结果。
八月二十三日，双方代表举行第二次会议。戈洛文仍顽固坚持俄国的侵略方针。胡说什么黑龙江这条河流，“久已属沙皇所有”。索额图对俄方的方案，表示坚决拒绝。
戈洛文见第一个方案难于实现，又伪装让步，抛出以牛满河为界的第二个方案，企图使中国作出更大的让步、索额图根据康熙愿早日缔约划界的指示，一方面拒绝戈洛文提出的第二个方案，同时，声明可以把原属中国的尼布楚让给俄国，即在石勒喀河北岸两国以尼布楚为界，石勒喀河南岸以音果达河为界。中国的重大领土让步，仍不能满足沙俄的侵略胃口，中国代表索额图的提议，不但遭到俄方代表戈洛文的拒绝，反而奚落中国代表说：“我很感谢你们，我十分感谢你们让我今晚在这里过夜”。“俄罗斯人被允许在自己的家里休息”。索额图郑重声明：“除尼布楚外，再无别的边界可以接受”。由于戈洛文的蛮横无理和恶劣的态度，使谈判陷入僵局。
更为卑鄙的是，在谈判过程中，戈洛文通过贿赂手段，收买随中国代表任译员的耶苏会传教士徐日升（葡萄牙人）、张诚（法国人）等人。戈洛文派人秘密同徐日升和张诚联系，“允诺给予大君主的恩典和尝赐，希望他们促使钦差大臣表示和好的诚意”。“耶苏会教士欣然同意为了贿赂而为俄罗斯效劳”，表示“将在传递信件时报告必要的消息。”甚至在谈判基本达成协议后，戈洛文秘密向传教士贿赂貂皮、黑狐皮和银鼠皮等，要求他们在交换文本中写上中国不得在雅克萨建筑任何房舍，而“不必通知（中国）使团，因为谁也不会知道他们在条约文本中用拉丁文写些什么”。由于事关重大，两个译员未敢答应，其卑鄙阴谋未能得逞。同时双方曾规定除刀剑外不得携带任何武器进入会场，可是在第一次会议时，俄方代表就密令卫队暗藏禁止携带的手榴弹赴会。企图以武力威胁中国代表。
中国代表通过同俄国代表接触，已开始怀疑俄国人进行谈判的目的，因为俄国人“今天说一件事，明天就会背弃自己的诺言。”他们察觉“莫斯科人并不想要和平，所有这一切都不过是一种阴谋，其目的是拖延时间，别有所图。”因此，不得不加强戒备，以防万一。
双方代表经过一长时间的往返交涉，中国代表始终表示愿意作出领土让步，并拒绝俄国代表的无理要求。同时生活在尼布楚一带的各族人民，继续掀起英勇地抗俄斗争，使沙俄侵占的这一带地方，“到处都出现动荡”，这使戈洛文手忙脚乱，惊恐万分。英勇地抗俄斗争挫制了戈洛文在谈判中进行的无休止的诈骗，促进了中俄双方谈判的进程。最后，双方终于达成了协议。
康熙二十八年九月七日，中俄双方代表签订了《尼布楚条约》。
