当吴军开始撤防时，张一则以喜，一则以惧。喜的是卧榻之侧从此无人鼾睡，惧的是吴杀到长沙来夺取帅印。不久吴军从湘江飘然而过，张不觉以手加额，以为“从此莫余毒”，至于对付蹙处郴、永的“蛮子军”，以为直摧枯拉朽之劳耳。不料湘军紧接吴师撤防之后全力冲过来，五月二十七日下总攻击令时，全军欢声雷动，其统兵将领谭、赵等初未尝料及士气如此之盛，但终以枪支太少、子弹无接济为虑，约束兵士非至敌人逼近时不许放枪。兵士交头接耳地说道：“我们不要子弹，把肉弹代替了子弹！”
一战而吴新田弃衡州不守，再战而田树勋弃宝庆潜逃，三战而张宗昌由攸、醴逃入江西境界。护湘关之役，湘军惜弹如金，以爆竹装入洋油箱鸣放助威，第七师因之大溃，时人笑为“假子弹吓走真敌人”。张命敬汤以援衡总司令名义赴湘潭督师，敬汤拍着胸脯说：“包管旗开得胜，大哥别忘记，打退南蛮子后须把第七师长让给我。”头一天敬汤耀武扬威南下，第二天旗靡辙乱而归，嗒丧着向他大哥说：“南蛮真厉害，我的师长做不成，你的江山也坐不稳了。”
张向北廷连连告急，请速颁“讨伐令”以作士气（段力主下令，徐世昌则坚持大事化小之说），一面则通电谓：“为顾全和局起见，我一再让防，而南军进逼不已，请主持公道。”湘潭告警时他把大小箱篓千余件运走，威逼榷运局、总商会筹饷巨万，违则枪毙负责人，吓得商会鸣锣征收房市捐，闹得满城风雨。六月十一日张假名督战逃走，临走时把督署“镇湘楼”付之一炬。是时溃兵在城内放火劫洗，哭声震天。十二日湘军总指挥赵恒惕率部入城，十三日督军谭延闿亦到，秩序才告恢复。
湘军以寡敌众，以饥疲之师当数万虎狼之众，一路势如破竹，士气诚大有关系，而关系之最大者莫如取得民众之合作。乡下农夫自动组织“吆呵队”（即游击队），拿着锄耙、肉弹和“灰面袋”拼命，后来湘军大扩充就是这些“吆呵队”勇士凑合而成的。张在湘省搜刮民脂民膏，他的回敬物就是成千成万的枪支，事后湘人戏呼为“运输司令”（运财物出境而将军火留下）。九年（1920年）湘军驱张似为内战中之一奇迹，实则一点儿不奇。湘军迫于自救抱破釜焚舟之志，而张部每个兵士腰包里塞满了珠宝大洋，没一个愿出死力，没一个不想溜回老家做富翁，其望风而溃是有其必然之势的。
湘军入长沙时家家户户放爆竹，爆竹衣铺满地面变成了温软的厚毯。市民摩肩企踵，欢迎着自己的军队，都说：“老总们辛苦，怎么来得这样慢？”这比之过去第七师队伍经过时人人闭户掩柴扉恰成反比例。其时长沙街市甚窄，军民打成一片，队伍几于不能通过，有些从来不出房门一步的老婆子也要挤出来看热闹。哪知不看犹可，看了时都是些面目黧黑、军衣褴褛、草鞋涂满了黄泥的叫化队伍，但他们精神焕发，每个兵士都浮着“光复旧物”的笑容。
次日，各公团假又一村欢迎收复沦陷区的谭、赵各将领。谭即席发表演说：“我们惭愧之不暇，怎当得‘欢迎’二字？我们是三千万父老兄弟的罪人，过去不努力，苦我湘民一至如此，今天才得着一点点赎罪的机会。”他说到这里，泪痕一丝丝从眼角淌下来，大家的眼睛同样湿润润地挥着痛定思痛的热泪。
长沙人是解放了，但由长沙至岳州沿线各村庄都被第七师蹂躏殆遍，财物无分巨细，妇女无分老幼都是他们的目的物，惨声不绝于耳，尸骸遍地可见。溃兵杀红了眼睛连外国人也不认得了（过去颇有惧外心理），在岳州烧了美国教堂，杀了美国教士，惹起严重交涉。恬不知耻的张也学了吴的那一套-电北廷要求撤防，否则兵士不服约束，本人惟引咎辞职。他自知罪孽深重，却委过于乃弟敬汤临阵退却，养子继忠军纪不良，请北廷褫夺这两人的官勋。北廷初仅予张以革职留任的处分，后来越来越不像，才下令以王占元为两湖巡阅使，吴光新为湖南检阅使（即督湘之先声，民国二年汤芗铭亦以检阅使名义入湘改任将军）。然而这只是一道滑稽命令，此后北廷的后台老板其自身亦已岌岌难保，过去的“征湘梦”不啻自己吞了一颗炸弹。
直皖之役
吴师撤归保定后，曹电请解除“四省经略”之职，北廷尚欲另以厚爵羁縻之。但吴的主张就是曹的主张-吴主张解散安福系、解散新国会、取消《中日密约》、取消边防军及西北筹边使，而这些都是段万万办不到的。
六月中旬徐树铮匆匆由库伦返京，始知京汉线各据点已被直军占领，而奉军又在京奉、津浦各据点增兵布防，有一触即发之势。那时奉张扮“两面光”之一角，美其名曰“中立”，进而以“调人”自居。他与曹吴一个做好，一个做歹。他暗中向曹说：“三哥，边防军兵力比你大，器械比你精，你有什么把握？”曹说：“我没有把握，子玉说有把握，他的把握就是我的把握。”
徐电召直、奉、苏三督入京共商大计。曹自然不敢入虎穴，答以“抚慰归军，无暇分身”。李纯说：“我害病，病好了就来。”只有以调人自命的奉张于六月十九日应召而至，俄然负着“霖雨苍生”之望。他提出调停办法：（一）取消《军事协定》；（二）取消筹边使；（三）劝靳亲家（他和靳云鹏是儿女姻亲）勉为其难。段不允。他马上向徐、段辞行。段软了半截说：“且慢，有话好商量。”
张以“辞行”为武器折服了刚愎自用的段，对第一条允接受办理，第二条开去树铮的西北筹边使，改任为远威将军，留京供职，第三条靳既求跳出火坑，遂以周树模组阁。这一面（段）商妥了之后，那一面（曹）还在未定之天。张拍着胸脯说：“曹三爷不肯来，我到保定邀他同来。”
经他指手画脚地摆布后，一天云雾几化归乌有，不料段的火性终于按捺不下。张由保定回京时，段忽提“吴与树铮同时免职”的交换条件。张吐着舌头说：“这怕办不到吧！”段固执地说：“办不到也得办！”七月上旬，段逼徐下令：“吴佩孚擅离防地，着褫夺中将及勋章，交曹严加看管。”张说：“还不是一切努力都完了吗？”段悻悻然说：“你得早出京，莫干预我的事。”先则招之使来，今则挥之使去，段的火性已升到极点而无丝毫挽回之余地了。
张出京后，段决计进一步拿吴入京问罪。距前令仅隔两日之久，逼徐补下一令：“吴免去第三师长本职，军队由陆军部接管。曹锟着革职留任。”一面组织定国军自为总司令，以树铮为参谋长，下分三路：第一路段芝贵兼京师戒严总司令，第二路曲同丰兼前敌总司令，第三路魏宗瀚，其兵力计有边防军三师、西北筹边军三旅及第九、第十三两师。他呈请下“讨伐令”，痛斥曹吴之骄蹇不法，有“本上将军创建民国，至再至三，参战一役煞费苦心，我国际地位始获超迁”等语。对徐言外之意：“你是我所拥立的，你不下讨伐令，本上将军也得自动地讨伐。”
十三日吴发表元电直斥这位创建民国至再至三的上将军为汉奸，文中有云：“自古中国严中外之防，罪莫大于卖国，丑莫重于媚外……佩孚等束发受书，尝闻大义，誓不与张邦昌、石敬瑭、刘豫、吴三桂共戴一天！宁饮弹而瞑目，不为外奴以后亡。佩孚等虽死之日，犹生之年……南北本属一家，直皖岂容二致？今日之战为救国而战，为中国民族而战，其战而死，为国民争人格，死亦有荣无憾。”他的革命行动是井然有次的行动，初以安福系为目标，渐及筹边使，至短兵相接之一瞬才向段及段之背景进攻。他是反对内战的，所以他表明直皖之战非内战，尤非如一般曲解者所称之“北与北战”，而系清内奸以除外患之必要动作。
半空中打来霹雳，奉军于十三日入关，以张景惠为关内军司令，这个调人似由“非中立国”走到“非交战国”的阶段了。段不觉慌了手脚，迫徐于十四日下令停战，饬各军调归原防。其时已有能发而不能收之势。十四日两军既接，东战线在杨村一带，日本巡路队曾开至杨村与直军稍有接触，但奉张于十六日到津有助直攻皖之意，直军声势为之一振。西战线在长辛店一带，吴以讨逆军总司令兼西路总指挥名义站在最前线。十六日雷电交作，大雨滂沱，定国军大炮失其效用。那天吴喝得酩酊大醉，亲带一部从侧面包抄曲同丰的司令部，曲在涿州、高碑店之间松林店被围，吴冲进了司令部，勒令曲的卫队缴械。曲正在茫茫然摸不着头脑之际，吴向之举手敬礼道：“车已预备好，请老师上车。”（曲曾任武备学堂教官）外传为长辛店活捉“曲辫子”之一幕。随后把曲解往保定光园（曹锟款留宾客之地），还有更精彩节目-曲向曹举行献刀礼。曹连连拱手说：“岂敢，岂敢。”仍将军刀发还佩带。
捉住了曲同丰，吓坏了西路军总司令段芝贵，他做梦不料二十年前他手下小小戈什哈现在变成了喑呜叱咤的敌帅。他未及赶赴前方即逃。当战机已迫时，曹虽跟在吴的后面走，暗中告诫他“多多小心”。吴说：“大帅放心，一星期动员，一星期作战，一星期复员，没有大不了的事。”后来两军既接，吴把小山炮密布于第一线，这完全违反战略，倘一战而败，则山炮尽为敌有。所以参谋官都请吴“再加考虑”，吴却抱定“速战速决”宗旨，自以为胜算可操，不让敌方稍有集合整理的机会。果然一战而捷，定国军一败不可收拾，奉军张景惠部乘势在津发动，派梭镖队二百名夜袭杨村。徐树铮以奉军既变，亦化装逃走。直到战事解决时，曹三爷还莫名其妙，他把一切功劳都推在吴的身上。
保府提出惩办祸首名单：第一批名单为徐树铮、曾毓隽、段芝贵、丁士源、朱深、王郅隆、梁鸿志、姚震、李思浩、姚国祯十人。一时鱼行中达官贵人有的像丧家之犬，有的像漏网之鱼，都以日使馆为其逋逃薮。七月二十一日段引咎自劾，呈辞一切职务。二十七日徐下令：（一）准段辞职；（二）撤销边防军；（三）撤销曹、吴处分令；（四）惩办祸首。说者谓：从吴师撤防到直皖战争酝酿了一年之久，其间“电战”、“神经战”又经过若干时期，而两军接触只短短四天便告解决，与湘军驱张同其神速，则当年战争直等儿戏耳！
定国军溃退后，日使小幡正式照会外交部，认匿居馆内的徐树铮等九人为国事犯，予以保护。吴则目之为内乱犯，且有侵吞公款之事，请外交部交涉引渡。北廷对此则不感兴趣，以为直皖同属北洋团体，应留香火之情，不必逼人太甚。所以那次政争结果，祸首逍遥法外，去一段而代之以两段-由段的一人太上政府变成了曹、张的两人太上政府。
关于段的处置问题，吴主张迁之于汤山而予以保护、优礼。段本人不离京，由团河退居府学胡同私邸，后来吴在津失败时亦不肯走，这两人虽处于政敌之地位，其嶙嶙傲骨正复相同。
军事胜利后，吴以为其政治主张亦必随之而胜利，新国会不难解散，和会不难重开，国民大会不难实现。哪知事实与预期者截然相反。关于解散新国会问题，徐首先不赞成。他的总统地位是由新国会产生的，倘认新国会为非法国会，则其总统亦为非法总统。关于国民大会问题，奉张首先反对，那时吴发了一个促进国民大会的电报，张通电反对，这两个电报都被曹在电局里扣留了。按：《中日军事协定》于十年（1921年）一月取消。
吴建议第三师退驻洛阳，奉军退回关外，均不得干预政治。张蹙着眉头向曹说：“三哥，子玉今天一个建议，明天一个主张，你得约束他少开口，少出风头为妙。”曹暗中告诫吴说：“凡事镇静点！我们刚打完一仗，难道再打一仗？”
张不满吴的态度渐渐露骨，七月二十七日天津西报记者赴地纬路恒记德军衣庄谒张，询以对吴将军之感想。张岸然说道：“我只知向曹使商谈大事。吴是区区师长，全国师长有好几十个，我手下也不少，倘人人预闻政治那成什么话！”八月十三日张在北京奉天会馆接见日本记者时又说：“国民大会是吴子玉个人的主张。我不能让他胡闹，已嘱曹使叫他少说话。”
那时全国把吴看作天字第一等人物，尤以西报记者为之大吹大擂，而阶级观念甚深的张则视之为偏裨小将，扬扬然不屑与之为伍。全国对吴歌颂有加，张对之不满益甚，他口中常挂着这句话：“子玉算什么？区区师长耳！”总之，直皖之役吴、张两人记账不同。吴以“战胜者”自居，以张为“坐观成败者”；张则自居于“举足轻重之地位，有拔刀相助之功”。那次苦经验使吴不复视天下事如前此所想象者之易，头脑渐渐冷静下来，所以八月二日曹、张在天津会晤时他迟到一日。五日北京东车站铺着黄土欢迎“两帅”入京，吴亦后到一日。而当公府大宴曹、张之日，吴飘然到郑州下榻华商旅馆，接见报界人物时且说：“这次战胜是一件痛心可耻的事。”
那次推翻皖系的结果，只造成了靳阁之复职，曹、张之正式联姻（曹以其弟锐之子为子，张女许嫁锐子），李纯之议和总代表及巡阅使地位（初任为长江巡阅使，后改为苏皖赣巡阅使，未久李自戕），直系旅长王承斌、萧耀南、阎相文、冯玉祥之师长地位，而国民大会遽归道山，一切改革计划均成泡影。武人之弄权如故，南北之对峙如故。
