李靖的部下听了，大惊失色，不知如何是好。李靖分析了唐军必败的情势后，又认为足可转败为胜，原因有三：一是梁军击败李孝恭后，水陆两军必然乘胜追击到南岸来尽歼唐军，所以趁天黑可利用南岸的地势设伏；二是可将缴获的梁军资财尽数留在埋伏圈内，梁军上岸后必然各自抢掠财物，不攻自乱，等梁军各自把抢得的财物搬上船时再痛下杀手，等于是面对手无寸铁的敌人；三是派遣精锐水军渡江截断梁军归路，一举歼灭梁军主力。
留守的将士听了，无不振奋。甚至有将士悄悄对李靖说，赵郡王如此对待将军，战败甚至被杀都是自找的，只要唐军胜，主上也不会责怪。李靖却对他们说，赵郡王是主心骨，他不能死，否则南征大业无法完成。于是派了武功高强的贴身卫士前去接应李孝恭，务必救回主帅。
结果正如李靖所料，李孝恭渡江后受到重创，只得拼死回返，被梁军及叛军追杀，险些丧命，幸亏李靖派出的高手护救才回到南岸。梁军乘胜渡江追击，但见了财物的兵士无心再战，纷纷负重涉水装船，被李靖部下的强弩手射倒，一时大乱，战场形势发生逆转。梁军主将见无力回天，只得拼死回渡，又被李靖埋伏在北岸的军队截击，只有小股梁军回城。
这一战，基本消灭了梁军的主力，萧铣已无力派出军队。李靖一鼓作气，引兵围攻江陵城，又命人把战舰拆毁，任由江水冲走。下游的梁国援军见了上千艘破损的战船，认为江陵已经失守，不敢再来支援江陵。于是江陵成为孤城。
李孝恭经此一战，十分惭愧，从心底敬佩李靖的用兵之道；而李靖则在全军将士面前称赞这是赵郡王的计谋且不畏艰险只身做诱饵，才取得如此胜利，并当场宣布：赵郡王为感谢兄弟们用命，特许将缴获的敌军资财按军功分发给将士们。
李孝恭面皮发烧，但还是当众受领了将士们的感谢。不过，李孝恭对李靖“分发资财”给将士们很不理解，因为初唐的军规很严，凡是缴获的资财一般都要交公，这样私分军资是要受处罚的。李靖对他说：将士们如此拼命才获得胜利，如果得不到实际好处就不会再卖命。更主要的是，江陵城破城在即，如果将士们没有得到好处，进城后难免抢掠。现在赵郡王已经给他们分了资财，再下令不许抢掠就能服众。这样做不仅对江陵一城，而且对岭南广大地区也有示范效应——各州府得知唐军秋毫无犯，萧铣又倒台了，还不如跟着大唐过日子，又不损失什么。
李孝恭深为李靖的深谋远虑所折服。特别是李靖不计前嫌，把功劳都推到他身上，让他很是受用。于是将帅齐心，先攻陷了江陵水城，再派人前去告知萧铣，只要投诚，保证对江陵城中官民不伤分毫。在这种情势下，萧铣以百姓为重，开城投降。附近的州县得知，也纷纷表示归唐。于是萧铣政权瓦解，由李孝恭押送长安。李渊容不下萧铣，斩于街市。
这次，李孝恭亲自为李靖说起了好话，认为萧铣政权虽然不存在了，但岭南广大地区山深路远，唐军深入胜负难料，需要李靖这样能征善战之将去安抚。于是李渊下诏，封李靖为永康县公、上柱国，检校荆州刺史。最重要的是，李渊为了充分发挥李靖的作用，不久任命他为岭南道抚慰大使（正三品）、检校桂州总管，特别授予他临机专断之权，在实际的安抚中可以按照朝廷制度封赏地方官吏。这一权力的授予，是对李靖的充分肯定和最大限度的放权。
李靖从此进入唐朝重臣的行列。这其中，李孝恭为明、李世民为暗，都在使劲。因此，碰上业务能力不强但活动能力很强的上司，宜策略相处，最终的好处还是自己的。李靖的本事比李孝恭大得多，但他努力把李孝恭推向前台，使他走得更远，而自己的位置就腾出来了。这是古往今来的智谋之士都惯用的一招，是那些与能力不强的上司对着干最后两败俱伤的人所难以达到的人生境界。
李靖升任岭南道抚慰大使，等于是李渊将岭南地区的最高行政权给了他，但他仍然大事向李孝恭汇报。李孝恭从长安回江陵后任荆州总管，李渊已经认识到没有必要再让李孝恭参与深入岭南平定南方的重任，而让李靖独自担当。事实上南方诸州仍然处于割据的态势，萧铣在位时只是名义上统一了岭南地区（当时岭南地区包括今天的两湖大部、两广、福建、江西、海南、台湾、贵州的一部分以及越南），特别是具有“南越霸主”之称的冯盎拥有二十余州，兵马也有数万之众。要完全平定岭南绝非易事。
李靖为了表示诚意，只带了三千兵马深入岭南。岭南地区的豪强跟北方不一样，属于“吃软不吃硬”，若是引兵强攻，必然群起反抗。李靖沿途都表现出了谦卑，对各州府官员动情晓理，答应只要归顺，仍然保留原来的官职且另有封赏。大部分州府的官吏们只要保证自己的利益，就不会反对，因此李靖一路顺利。到达桂州（今广西壮族自治区桂林）前，李靖还没有遇到真正的障碍。
但桂州总管李袭志告诉他，岭南最大的障碍是冯盎。冯盎是具有“岭南圣母”之称的冼太夫人的孙子，曾跟随杨广远征并封过大将军，只因牢记祖训才没有称王，其实力并不比萧铣差，部下均能征善战。闻听李靖前来，冯盎做好了应战的准备。李靖摸清情况后，干脆将三千兵马留在桂州，只身带领亲随前去参拜冼太夫人庙，令冯盎感动。在随后与冯盎的谈判中，李靖论及天下久乱必归统一、民众不能再受战乱之苦，希望冯氏以大局为重。冯盎心有不甘，但李靖随后就把八州之地划给他管理，且准许他三年不交税赋。冯盎深感李靖大德，于是降唐，并以他在岭南的威望劝降其他豪强。于是，李靖不费一兵一卒，平定了岭南九十六州、得户六十余万家。这个功绩，放眼初唐只有李世民能与之比肩。李靖以自身的努力，深刻诠释了“不战而屈人之兵”。
这一年是武德五年（公元622年），李靖五十二岁。
5
本来，李靖可以以岭南道抚慰大使的身份在南方休养些时日，但第二年就发生了战事。
原来，先前归顺唐朝的江南地区出了问题。
江南和淮河地区原来被农民起义军首领杜伏威以及义兄辅公祏占据。杜伏威降唐后封吴王。后来李渊认为江南地区是钱粮重地，怕杜伏威造反，就召他入朝，位在李元吉之上，仅在李世民之下，但实际上等于软禁了他。杜伏威其实不想造反，也知道李渊的意图，临行前让辅公祏监军。结果，杜伏威一走，辅公祏就发动兵变，在丹阳（今江苏省南京）称帝，国号大宋，纠合十几万大军公开反唐。论战力，江淮军比萧铣的岭南军更厉害，而且有长江之险，不易对付。当时，唐朝北方的战事吃紧，李世民不可能率军南征，李渊想到了在岭南的李靖，问老兵部尚书屈突通的意见。屈突通也赞同李靖出马。不过，屈突通认为要尽快歼灭辅公祏，就得就近调集州府的军马实施全面进攻。李靖虽然能征善战，但这些州府的总管们自恃有功，恐怕不好节制，还是由李孝恭挂帅、李靖为副帅实际指挥比较好。李渊采纳了他的意见。
辅公祏得知唐朝要来攻打后，进行了周密部署，命大将冯慧亮、将军陈当世率舟师三万屯于当涂西南的博望山，前军推至枞阳（今安徽省枞阳）；命大将陈正通、将军徐绍宗率步骑三万屯于当涂东南的青林山，与冯慧亮成掎角之势；又在大江上拉了数十根粗大的铁链阻止舰船前行，成为丹阳固若金汤的门户。
唐军方面，任命赵郡王李孝恭为平南大元帅，率舟师出江州（今江西省九江）；岭南抚慰大使李靖为平南副元帅，领交、广、泉、桂之众出饶州（今江西省上饶）。同时，出动了七路总管，分别是：齐州（今山东省济南）总管李勣；怀州（今河南省沁阳）总管黄君汉；徐州（今江苏省徐州）总管任瑰（瑰同“瓌”）；光州（今河南省潢川）刺史卢祖尚；安州（今湖北省安陆）安抚使李大亮；黄州（今湖北省黄冈）总管周法明；舒州（今安徽省安庆）总管张镇舟。
七路人马加上李孝恭和李靖的部队总共七万人（大州过万，小州几千不等），与辅公祏的十五万江淮军相比少了一半。不幸的是，黄州总管周法明刚刚出师就因醉酒误事被敌军击杀在船上，这一路人马就报销了。幸好，李靖力荐桂州总管李袭志为水军总管，补齐了七路人马。
李靖从岭南率一万二千人与李孝恭在当涂会师后，李孝恭赶忙把烫手山芋扔给了他。原来，几路人马虽然打了一些小胜仗，但各路总管都自命不凡，表面上听李孝恭的招呼，实际上各干各的。特别是，按原先的作战部署，要将水、陆两军分开，水军统一归李袭志率领，这些州府的总管就不干了，纷纷找理由推托。
唐朝沿袭了隋朝的府兵制，各州府募兵不易，加之这些总管多数是战场上杀出来的，都受李渊重视，谁也不买谁的账。特别是李勣，出身瓦岗军，经历的战事比李靖还多，虽然年纪轻轻，但战功赫赫，又随李世民征战过北方，别说李靖，就连李孝恭的账都不买。李靖到任后升帐点将，李勣根本就不来参加军事会议。还有任瑰，也是一名老将，跟随李世民东征西讨，手下的兵也多，开会第一天就顶撞李靖。
相比这些人而言，李孝恭还算是个老好人，而这些人则是骄矜之辈，认为辅公祏人马虽多，但不过如此，完全可以单独拿下。而深通兵法的李靖则认为，如果唐军不齐心，江南收复不了不说，还有全军覆没的危险。李孝恭没有办法，只得把兵符往李靖手里一塞，让他全权指挥，他只做“协调人”。
面对这种局面，李靖没有立刻发火用兵符强迫调集军马、整合队伍，而是对每一位将领都做了详细的分析，尤其是性情的分析。在七名主要将领中，李袭志与他在岭南共过事，而且水军总管一职还是由他提议的，自然没有问题；李大亮当年在金州时就结识，很敬佩李靖的为人，而且李大亮在击败辅公祏的重要手下张善安前李靖曾投书指点过他，也没有问题；黄君汉、卢祖尚、张镇舟比较中立，属于随大溜儿型。那么，剩下的就是李勣和任瑰了。在李靖的计划中，攻打辅公祏必须水陆并进，其中水军极为重要，历代攻取江南，水军都发挥决定性作用，而李勣和任瑰手下的战船和水军最多，他俩不交兵，水军组建不成，要想取胜更不可能。
而李勣和任瑰二人中，又以李勣的头最难剃。李勣便是后世被传为半仙级人物的徐懋功（也称茂公），初唐名将，后来与李靖并称“二李”，极能征战，而且很得军心，极少有失败的战例，又因李渊和李建成、李世民都很器重他，所以性情孤傲。李靖虽然平定岭南，但李勣认为不过是运气好，没什么了不起。要想捏合这七支人马，必须让李勣心服，否则无从谈起。
李靖比李勣大二十三岁，从年龄上讲是长者，从职务上讲是上级。但李靖不摆谱，青衣小帽，独自到李勣帐中拜访。李勣本来想独自平定江南以立奇功，因此对李靖很是冷淡。李靖挂口不提南征之事，而是与李勣谈起了用兵之道。李勣一开始很狂，李靖却不着急，如数家珍般对隋朝以来伤亡五千人以上的战例都做了点评，让李勣大为吃惊。原来，李靖对天下山川形势、战争过程皆了如指掌，特别谈到李勣在对付刘黑闼的战争中于宗城（今河北省威县）惨败的战例。当时，唐军五千士卒全部阵亡，李勣只身带伤逃脱。这事，李勣引为耻辱，最怕有人提起。李靖却哪壶不开提哪壶，搞得李勣大为光火。不过，李靖并没有嘲笑李勣的意思，而是据实而论，认为当时李勣若掌握用兵之道，弃宗城而迂回守之，则可免败。一席讲解，令李勣茅塞顿开，心结也解开了，由是对李靖用兵之道发自肺腑地佩服，当场要拜师学艺。李靖则认为他已是成名将领，完全可以开创另一片天地，故而不收他为徒弟。但李勣经此一谈，心中已将李靖当成老师。随后，李靖系统分析了征讨江南的重重困难，晓以大义，李勣当场表示愿意听从调遣。二人由此结成知交，直到李靖去世，“二李”都是半师半友的关系。
对任瑰，李靖采取的则是另一个办法。由于任瑰怕老婆，李靖在岭南时就给长安的夫人张出尘去信，让她把他捎去的许多名贵药材和在深海采得的珍珠送给任瑰的夫人。现在，任瑰收到了夫人的来信，要他密切配合李靖，因为李靖夫妇待她比亲人还亲。
李靖用不同的策略解决了七路人马中实力最强的两人，其他的将领自然就好办了。于是唐军有了空前的凝聚力。李靖命令任瑰断了敌军的粮道，再命李袭志先用老旧船装满石头连锁开路，撞断了辅公祏横在江上的锁链，李勣等将领集中兵力攻击关隘，击败辅公祏主力部队。武德七年（公元624年）春，李靖水陆两军围攻丹阳，并亲自督军击破水门。辅公祏弃城而走，后在逃奔途中被俘，最后被斩，江南平定。
这次战争只用了半年时间，就彻底平定了江淮地区，为大唐打下了二百多万平方公里的疆土。李渊接到战报，高兴地说：李靖平定半壁江山，古之名将韩信、白起、卫青、霍去病都比不上他！
为安定江南，李渊设江南道大行台，由李靖任兵部尚书；后又设扬州大都督一职，由李孝恭担任，李靖任大都督府长史。但当时李建成与李世民的争斗已经半公开化，李孝恭禁不住李建成的拉拢，暗暗投向李建成。李靖洞若观火，暗示李孝恭不要参与党争。李孝恭表面答应，心头不以为然。而且，李孝恭有了两次当主帅而获胜的经历，逐渐认为半壁江山是自己打下来的，有意与李靖疏远。在这种情况下，李靖审时度势，上书李渊要练兵对付北方的突厥人。李渊权衡利弊，决定将安州（今湖北省安陆）升格为大都督府，任命李靖为安州大都督（武职从二品，初唐的大都督即为大将军），让他练兵以备北伐。从此，李靖成为独立开府的大将，老部下都称其为“大将军”。
6
其时，李世民基本扫平了北方，李靖也完成了南征的夙愿，但这些都只是内战，真正强大的敌人是突厥汗国。始毕可汗死后，其弟处罗可汗继位；处罗可汗之后，其弟颉利可汗继位。颉利可汗是个野心勃勃的枭雄，经常率众侵略唐朝北方。唐朝调兵遣将与之对抗，无奈不敌勇猛无匹的突厥人，十战九败，搞得李渊差点迁都以避其锋，在李世民力主迎战的情况下才没有成行。
武德八年（公元625年）夏天，颉利引兵十万再次大举侵犯唐朝，李渊命右卫大将军张瑾为行军总管迎战，以中书侍郎温彦博为长史，率军六万在太谷（今山西省太谷）迎战颉利大军。李世民认为唐朝所有将领中，只有李靖胜得过突厥人，现在江淮军基本练成，可命李靖北上抗击突厥。李渊下令李靖北上。当时，李靖在安州练成了一万精锐江淮军。
