举兵后的第三天，突厥骑兵数万人兵临太原。如何对付突厥？刘文静建议李渊跟突厥相结盟，利用突厥的兵马，以增加自己的军威声势。李渊听从这个意见。便亲笔给突厥始毕可汗写了一封信，言辞谦恭，态度卑屈，还送去非常丰厚的礼物，信里这样写道：“我打算大举义兵，远迎隋主返京，重新再跟突厥和亲，就像开皇年间那样。你若是能和我一同南下，希望千万不要侵扰强暴百姓。如果你只想和亲，坐受金银财宝，也可由你选择。”始毕可汗得到李渊的信，对他的大臣说：“隋炀帝这个人我是了解的，若是把他迎接回来，第一步一定是先加害唐公，第二步就是出兵对我们发动进攻，这是毫无疑问的，假如唐公自称天子，不管天气怎么炎热，我都愿以兵马去帮助。”始毕可汗立即命令将这个意思写信回复李渊。
使节七天后返回太原，看完信，李渊的将领僚佐们都很高兴，请李渊接受突厥的建议；登极称帝。李渊认为不行。裴寂、刘文静都说：“现在义兵虽然集结很多，但是军马还极为缺少，我们并不是需要突厥的军队，但突厥的马匹不可失去。如果再拖延而不回信，恐怕对方反悔。”李渊还是希望大家再好好地想别的办法。裴寂等人就建议：请李渊尊隋炀帝为太上皇，拥立代王杨侑为皇帝，用来安抚隋王朝官兵。然后传布檄文到各郡县，改用红、白掺杂的旗帜，以此向突厥示意不完全与隋室相同。李渊认为这可真正是掩耳盗钟，可是形势所迫，不得不采用的办法。于是就同意这样做，派使者将这个决定通知突厥。
西河郡拒绝接受李渊的命令，六月初五，李渊派李建成、李世民率兵进攻西河郡。命太原令太原人温大有与李建成等人同行。李渊对温大有吩咐说：“我儿子年纪太轻，因而请你主持谋划军事行动，事情的成败，全看这次出征。实际上，这次行动具有试探性。”李建成、李世民与士卒同甘苦，遇到敌人更是身先士卒。道路两旁的蔬菜瓜果，不是买的不准吃，兵士如有偷吃的，立刻找到物主进行赔偿，但也不追究偷窃者是谁，士兵及百姓们都心悦诚服。李建成等率军抵达西河城下，城外居民有想逃入城里的，都一律放行。使将与士、军与民的关系至少得到前所未有的改善，从而大大提高了部队的战斗力。西河郡丞高德儒闭门坚守，六月初十，李建成攻破西河城，生擒高德儒，将他押到军营门口，李世民历数他们的罪过说：“你把野鸟硬当凤凰，用来欺骗君主，骗取高官，我们兴义兵，正是要诛灭像你这类小人！打的还是‘护主’的招牌。”于是将高德儒处死。其余官员一个不杀，分别抚慰吏民百姓，让他们各复其业，远近的百姓听到这个消息后，都非常高兴。李建成等人率兵返回晋阳，往返只有九日。李渊高兴地说：用这样的威力用兵，简直可以横行天下了。因而就定下了入关计划。
瓦岗寨义军首领李密
李渊大开粮仓，赈济贫民，应招募当兵的人日益增多。李渊命令将招募来的人分为三军，分左、右两翼，通称为“义士”。裴寂等人尊称李渊为“大将军”。六月十四日，李渊设置“大将军府”，任命裴寂为长史，刘文静为司马，唐俭和前长安尉温大雅为记室，温大雅仍然跟他弟弟温大有共同掌管机密，任命武士为铠曹，刘政会和崔善为、张道源为户曹，姜谟为司功参军，殷开山为府掾，长孙顺德、刘弘基、窦琮和王长谐、姜宝谊、阳屯分别为左、右统军，其余的文武僚佐都按照才能，授予官职。李渊又封世子李建成为“陇西公”、左领军大都督，指挥左翼三军，封李世民为“敦煌公”、右领军大都督，指挥右翼三军，各自设置官府僚属。任命柴绍为右领军府长史，刘赡任西河通守。
这时，突厥派他们的柱国康鞘利等人，押运一千匹战马给李渊，要李渊收购，并答应发兵护送李渊入关，只看李渊需要，派多少都可以。六月十八日，李渊召见了康鞘利等人，接受了始毕可汗的书信，表面上李渊态度卑屈，神色恭敬，赠送给康鞘利等人的礼物也很丰厚。在一千匹战马中，李渊挑选特别精良的，只买了其中的一半。义士们见此良马，请求用自己的私钱买下其余的马匹。李渊说：“突厥多的是马，而又十分贪财，我们这次一下子买完，他们会不断地送马来，你们将会财力枯竭，担心你们就买不起了。我所以少买的原因就是向他们表示贫穷，同时也表示我们并不那么急用。我应当替你们付钱，不至于让你们花费。”
六月二十六日，灵寿县的义兵首领郗士陵统帅部众几千人投奔李渊。李渊命郗士陵为镇东将军，封为“燕郡公”，仍设置镇东府，补充镇东府的僚属，用以招抚潼关以东各郡县。
六月某日，康鞘利北返。李渊派刘文静前往突厥请求发兵联合行动，他私下对刘文静特别嘱咐道：“突厥骑兵进入内地，是黎民百姓的一大灾害，我所以要突厥人发兵，是由于怕刘武周勾结突厥一起成为边境上的祸患。另外，突厥使用骑兵，马匹一面走一面吃草，是放牧式的，而不需要耗费草料。我只是要借突厥人的兵马来壮大声势，几百人也就够了，太多了没有别的用法。”
七月初四，李渊任命儿子李元吉为太原太守，留守晋阳宫，后方一切事务都委托他处理。七月初五，李渊统帅甲士三万人从晋阳出发，在军营门前与全军盟誓，并向各郡县发布檄文，说明拥护代王杨侑的原意。西突厥的阿史那大奈也率其部众跟随李渊出征。七月初六，李渊派通议大夫张纶率兵镇压稽胡部落。七月初八，李渊抵达西河，居民中凡年纪在七十岁以上的，都授予散官的职务。其余的青年俊杰，都根据他们的才能委任官职。李渊当面口试对方的能力，立刻提笔记下所任命的官职。仅仅一天，就任命官员一千余人。被任命官职的人都不领取任命状，他们各自拿着李渊亲笔所写的官名状就去上任了。七月十四日，在贾胡堡驻军，贾胡堡南距霍邑五十余里。代王杨侑派遣虎牙郎将宋老生率领精兵两万人驻守霍邑。左武侯大将军屈突通驻军河东以抵抗李渊。这时，正逢连绵大雨，李渊无法进军，他派遣府佐沈叔安等人率领老弱病兵返回太原，押运一个月的粮食来。
刘文静到了突厥，晋见了始毕可汗，请求派兵援助，而且与始毕约定：“如果进入长安，民众土地归属唐公，金银财宝则让给突厥。”始毕可汗听后非常高兴。七月十八日，他派大臣级失特勒先行前往李渊的军营，通知他的突厥的援军已经上路了。
与突厥相结，借用突厥兵马，以壮声势，这是李渊起义的第一手段。第二手段就是与其他义军联合行动。李密义军是他的主要联合对象。李渊写信招抚李密。李密自恃兵强马壮，打算自己作盟主。他让祖君彦给李渊回信道：“我和兄长虽然不同一个支派，但却是李姓同宗。我自知自己势单力薄，只是承蒙天下的英雄之厚爱，推为盟主，希望互相扶持，同心协力，在咸阳生擒秦子婴、在牧野灭掉商辛，这样的大业，岂不是很宏伟吗？”李密还暗示李渊亲自率领步骑兵几千人到河内郡，二人当面缔结盟约。李渊接到回信后，笑着说，李密妄自尊大，对于他，不只靠一封书信就能把他招抚而来的，我正要集中主力对付关中，假如马上跟他断绝来往，岂不是又树了一个敌人，不如态度谦卑一些，对他说几句奉承之话，使他心志更加骄横，让他替我把守成皋之道，牵制东都之兵，这样就可以使我专心一意地进行西征。针对可利用的力量的特点，决定不同的处理方法，这是李渊的高明之处。认为等到关中平定之后，再依据险要之地，养精蓄锐，从容不迫地在旁观看鹬蚌之争，坐收渔人之利，并不算晚。于是，他让温大雅起稿回信道：“我虽然平庸愚昧，有幸承继了祖宗的功业，出任为八使之要职，回朝掌理禁军。朝廷有难，而不能扶持拯救，再通达的贤人君子，都会对我责备的。因此我才大规模地集结义兵，与北狄和亲，共同平定天下，目的在于尊崇隋王室，保卫隋王室。天生民众，一定要有官员管理，现在能够管理民众的人，除了你，又还有谁呢？我已过了知命之年，已经完不成这个心愿了。我由衷高兴拥戴你！攀龙鳞、附凤翼，盼望你早些应验图谶，安定天下万民！你是李姓盟主，但愿再将我封在唐地，这样的殊荣已经够满足了。在牧野将商辛诛灭，这样的大业，我是不敢说的，在咸阳生擒秦子婴之事，我也是不敢听命的。汾晋一带，还需要我安抚镇压，盟津之会盟，目前还不能先行约定日期。”在这封信中，李渊一方面大肆吹捧李密，一方面则自称年老力衰，将来得封王于唐，已很满足。李渊以此来掩盖自己的野心。李密收到李渊的复信后很是高兴，他将信带给僚佐们一一传阅，并洋洋得意陶醉于李渊的奉承，认为李渊推举自己，天下很容易就平定了。自后，李渊、李密间的信札往来不绝。从此，李密对李渊进兵关中完全不闻不问，而专意集中兵力对付王世充的部队。
山西义军首领刘武周
李渊父子率军沿汾河东岸南下，行至距霍邑西北十五余里的灵谷县，正逢秋雨连绵，雨下了很长时间还不止，使军粮渐感不足，士兵有点不安起来。刘文静去突厥又迟迟未归。这时，有人传言突厥人与刘武周乘虚袭击晋阳。其实刘文静出使突厥，早已谈判成功，获得了突厥可汗的支持，正率突厥兵马数百来援李渊，只因路途较远，迟迟未能赶到。李渊心里很是焦急，因而，急忙召集将领僚佐商议向北返回问题。裴寂等人分析说：宋老生、屈突通，南北联合，据守险要，不容易很快攻破；李密虽然说要结盟，但是他的奸诈图谋，很难琢磨；突厥贪利而不讲信义，只认金银财宝；刘武周又是向胡人称臣的人。太原则是一个地区的都市，而且义兵的家属都在太原，不如返回救援根据地，再筹划今后的行动。李渊问建成、世民兄弟俩的意见，李世民竭力反对北返，他指出，现在稻谷遍野都是，怎么担心无粮呢？宋老生为人轻狂急躁，一次战役便可活擒他。李密这个人又依恋不舍眼前的粮仓粟米，还顾不上考虑远处图谋。刘武周和突厥表面看上去虽然相互依赖，但实际上都相互猜忌。刘武周虽然追逐远利而攻取太原，然而他怎能忘记他的根据地马邑会受到攻击！我们本来是兴大义，奋不顾身地拯救百姓，应当先行进入咸阳，号令天下。现在只遇到了小小挫折，就立刻要班师，恐怕跟随起义的人一旦解散，我们返回去守卫太原一座孤城，不过是一小撮盗贼而已，采取什么办法能保全自己！李建成也赞成李世民的意见，但是李渊却听信裴寂的话，催促世民兄弟布置军队迅速出发。李世民正要准备再次进入李渊的营帐劝阻，刚好天黑了，李渊已经躺下休息。李世民不能进去，就在大营帐外号啕大哭，哭声传到了寝帐，李渊闻声起床召李世民进来问话，李世民说：“现在我们举兵是为了大义，进攻就能取胜，撤退就会溃散，到那时，部众在前面溃散逃命，敌军就在后面乘机追击，我们被灭亡的日子就在眼前了。怎么能不悲伤呢？”李渊听后感到有道理，忙说：“军已发，奈何？”李世民赶快回答说：“右军严而未发；左军虽去，计亦未远，请自追之。”李渊笑道，我的成败在于你，知道了，还多说什么呢？随你决定吧。李世民和李建成连夜把左军追了回来。七月二十八日，从太原运来的粮食也到了。
李渊父子起兵的第一个战略目标就是西入关中。关中的长安是隋王朝都城所在，地处号令天下的重要地位。因此，李渊父子在稳定了起兵根据地太原的局势之后，立即着手部署进攻关中，占取长安。西河之战，是关键性的一着。
西河首捷，往返仅只九天。临战前，李渊曾对太原令温大有说：“士马尚少，要资经略，以卿参谋军事，其善建功名也！事之成败，当以此行卜之。若克西河，帝业成矣。”在温大有的参谋下，果然取得了首捷，李渊高兴地说：“以此行兵，虽横行天下可也。”这也就更加坚定了南下入关的决心。
八月初一，阴雨总算停了，天气放晴。初二，李渊命令部队晾晒铠甲、器械、行装。第二天早晨，李渊率军乘着漫天大雾从东南山麓小路，神速地挺进霍邑。李渊恐怕霍邑守将宋老生拒不出战，李建成、李世民说：“宋老生有勇无谋，我们用轻骑向他们挑战，按理说，他不会不出战。如果他真的从营垒出来，我们就诬陷他意志动摇，要向我们投降。他害怕被左右的人打小报告，又怎敢不出战呢？”李渊说：“你们估计正确，宋老生未能趁我们困在贾胡堡时发动攻击，我就知道他是个无能之辈。”李渊和几百名骑兵先行到霍邑城东面几里的地方等待步兵，派李建成、李世民率领几十骑兵迫近到城下，举鞭挥旗，就像要发动围城的样子，同时又高声辱骂宋老生，挑逗守兵。宋老生果然大怒，率三万人从东门、南门分道出战。李渊派殷开山立刻去调遣后军，后军抵达后，李渊打算让军士们先吃饭再战斗，李世民说：“时不可失！”李渊就和李建成在城东列阵，李世民在城南列阵，发动攻击。李渊、李建成与宋老生交战，稍有退却，李世民与军头临淄人段志玄从南原率兵驰马而下，冲击宋老生阵地，攻击宋老生军的背后。李渊的兵势又振奋起来，乘势大声呼喊：“已获老生矣！”宋老生军因此溃败。李渊兵迅速冲向城门，城门紧急关闭，宋老生被隔在城外，他跳下马，投入护城壕沟，刘弘基赶上去将他杀死。此时，天色已黑了，李渊立即命令登城，将士们以血肉之躯，强行登城，攻下了霍邑。
对于攻取霍邑的有功将士，李渊都给予奖赏。军吏们怀疑以奴隶身份应募的人不能和从军战士同样论赏。李渊说：“在飞石流箭之下，不分贵贱，论功行赏之时，怎么能有等级差别呢？应该完全平等，有什么功，就颁什么赏。”这是很高明的一招，也是李渊部队战斗力特别旺盛的原因。
八月初四，李渊接见了霍邑官员和百姓，慰劳安抚，都依照西河郡一样办理，挑选霍邑强壮的男丁从军。关中战士打算返回关中的，一律加授五品散官，放他们回去。有人规劝李渊说授官太滥，李渊认为隋氏最舍不得官爵，因而失去人心，我又怎么能够效仿他们呢？何况用官职来收拢人心，岂不比刀枪更好吗？这是李渊的策略性举措。
河北义军首领窦建德
霍邑之役是李渊父子骑兵对隋朝步兵的重大胜利。八月初八，李渊进入临汾郡，慰劳安抚，也按照霍邑前例办理。八月十二日，李渊军队在鼓山过夜，绛郡通守陈叔达率兵拒守。八月十三日，李渊进攻，很快就攻克了绛郡。陈叔达，是南陈宣帝陈顼的儿子，很有才学。李渊以礼相待，任命他担任官职。
八月十五日，李渊抵达龙门。刘文静、康鞘利率突厥兵五百人、马两千匹来到。对这批援军缓缓来迟，李渊大为高兴，因为来到的时间正是时候，他对刘文静说：“我向西走到黄河，突厥兵才到达，而且是兵少马多，都是你出色执行使命的功劳！”
对于沿途攻占有贡献的都给予封官。正在进军河东的途中，汾阴人薛大鼎劝说：“不要进攻河东，应从龙门直接西渡黄河，夺取永丰仓，发表文告，传递远近，就可以坐在这里等待关中投降。”李渊准备听从他的意见，然而诸将请求先行攻取河东，于是李渊任命薛大鼎为大将军府蔡非掾。
河东县户曹任瑰，建议李渊说：关中的英雄豪杰对义军跷首以待，我在冯翊郡多年，非常了解当地民间领袖的情况，我愿前去联络，他们一定会望风而降。义师从梁山渡黄河，南下直指韩城，进逼阳。阳守将萧造是一位文官，望见车马扬起的灰尘就会请求归降；义军首领孙华也会远迎归附。然后你大张旗鼓向西挺进，直接进入永丰仓，即使还没有攻克长安，但关中却根本上稳定了。
当时，关中的义军以孙华的势力最为强大，八月十八日，李渊到达汾阴，用书信前去招抚孙华。八月二十一日，李渊进军到壶口，黄河沿岸的百姓纷纷向李渊献船，每天都有一百多只。因而，李渊又成立水军。八月二十四日，孙华从阳轻骑东渡黄河，谒见李渊。李渊握着孙华的手，请他上坐，嘉奖安慰备至，任命他为左光禄大夫，封为武乡县公，兼任冯翊太守之职。对于孙华的部属中有功的人，李渊授权孙华依照等级授予官职，赏赐的丰厚物品。李渊让孙华先行渡河返回根据地，然后派遣左、右统军王长谐、刘弘基以及左领军长史陈演寿、金紫光禄大夫史大柰率领步骑兵六千人自梁山西渡黄河，在黄河两岸扎营，等待大军的到来，李渊任命任瑰为招慰大使，任瑰前去游说韩城，韩城很快就归降了。李渊对王长谐说：屈突通精兵不少，跟我军相隔仅五十余里，却不敢出战，说明其军心已动摇，不为屈突通效命了。但是屈突通害怕朝廷怪罪，又不得不出战。他如果亲自率军西渡黄河向你们发动攻击，那我就进攻他的根据地河东城，河东城肯定守不住。如果屈突通全军守城，那你们就拆毁黄河的桥梁。这样就好比前面扼住他的咽喉，后面攻击他的脊背，他如果不逃走，就一定被我们擒获。
果然，屈突通派遣虎牙郎将桑显和率领几千名骁果趁夜袭击王长谐等人的营地。王长谐等人交战不利，孙华、史大柰等部早有戒备，以游骑从背后袭击桑显和，桑显和大败逃归城内，并毁掉黄河桥梁。九月初八，冯翊太守萧造向李渊投降。
九月初十，李渊统帅大军包围河东郡，屈突通闭城拒守。
李渊的部将等又推戴李渊兼任太尉，增设官属，李渊接受了这个建议。当时，河东郡还没有攻下，三辅之地的英雄豪杰投奔李渊的，每天数以千计。李渊打算率兵向西直攻西安，可是仍犹豫不决。裴寂说：“屈突通手拥有大批军队，凭借着坚固的城池，我们如果放弃他而去，如果不能攻下长安，一旦撤退，就会遇到来自河东方面的追击，腹背受敌，这是危险的策略。不如先行攻下河东，再挥师西上。长安是依恃屈突通为后援的，屈突通被打败，长安也一定陷落。李世民却竭力反对，他说：“军事行动必须神速，我们乘胜安抚归顺的民众，擂起战鼓，向西挺进，长安的人就会望风而震惊骇惧，智慧还来不及施展谋划，勇敢还来不及临机决断，取长安就犹如震动树上的枯叶一样容易。我们如果滞留，自己将自己耽误在坚城之下，他们就得以有充足的时间进行准备，严阵等待，而我们却坐在这里白白浪费了时间。一旦大家的士气沮丧溃散，那么大势就一去不复返了。何况关中蜂拥而起的将领还没有归属，不能不早早将他们招抚来。屈突通不过是一个只能自己将自己囚禁起来的庸人，不足为虑。”裴寂的分析有其近于事实的一面，即河东守敌尚有一定力量，不可低估，然而畏敌不进是错误的。李世民看到了关中的空虚，建议长驱直入，夺取长安，是颇具谋略的，其缺点是过于轻视屈突通河东守军的力量。李渊综合了两方面的意见，取长避短，于是决定把诸将留下来围攻河东，而自己率军西进。
九月十二日，李渊统帅各军西渡黄河，九月十六日，抵达朝邑，住在长春宫。九月十八日，李渊派遣李建成、司马刘文静率领王长谐等诸军几万人，屯驻在永丰仓，据守潼关，防备东都之兵，慰抚使窦轨等人接受李建成的指挥。李世民率领刘弘基等诸军几万人进攻渭北，慰抚使殷开山等人听从李世民的指挥。
屈突通得知李渊西行入关的消息，就任命鹰扬郎将尧君素代理河东通守，派他守卫蒲坂。屈突通亲自带兵几万人赶赴长安，但被刘文静所阻挡，不能前进。将军刘纲守卫潼关，在都尉南城屯军。屈突通准备前往潼关向刘纲投靠，王长谐先行率兵袭击并斩杀了刘纲，占据都尉南城，拒抗屈突通，屈突通只好退到都尉北城。李渊派部将吕绍宗等人攻打河东，未能攻克。
江淮义军首领杜伏威
刑部尚书兼京兆内史卫文升已年老，他得知李渊军队向长安进军的消息，忧惧成疾，不再参预政事。只有左翊卫将军阴世师、京兆郡丞骨仪在代王杨侑名义领导下，据城坚守。
九月二十四日，李渊进驻冯翊。李世民所到之处，官吏、百姓及义军归附如流，李世民在他们中间选出有才干的人物，作为自己的僚属。他在泾阳驻军，能够作战的武装部队有几万。柴绍之妻李氏率精锐战士一万余人，在渭北与李世民会师，跟她丈夫柴绍各自设置幕府。
这时房玄龄到军营大门晋见李世民，李世民跟他一见如故，命他当记室参军，作为自己的高参。房玄龄也认为遇到了知己，竭尽心力，凡是认为对的事情，一定毫无保留去做。
李渊派刘弘基、殷开山，分别率军向西方扶风攻取土地，拥有将士六万人，南渡渭水，屯驻在长安故城。长安城中的隋军出战，刘弘基迎战，击败了隋军。李世民率兵前往司竹，李仲文、何潘仁、向善志，都率众跟随李世民，在阿城屯驻下，李世民有武装战士十三万，军令严整，对民间秋毫无犯。九月二十八日，李世民从派使者禀报李渊，请求约定包围长安的日期。李渊说：屈突通已向东进军，不能再回头向西行了，对于他，已不足为虑了。”于是命李建成挑选在永丰仓的守军勇士，从新丰直抵长乐宫；李世民率领新归附的各军向北进军，屯驻在长安故城，准时到达指定的地点，听从调遣。延安、上郡、雕阴等地都请求归降李渊。九月二十九日，李渊率军西行，沿途所经过的隋炀帝的离宫、园林、庭苑，全部关闭，放出所有的宫女，归还她们的亲属。十月初四，李渊抵达长安，在春明门西北扎营，集结各路义军，共约二十余万人。李渊命令各将士驻扎在营垒内，不准进入村落蹂躏百姓。李渊派使者到城下，向卫文升等人表明自己尊奉隋皇室的态度，卫文升等人不作答复。十月十四日，李渊命令诸军进发围城。十月十七日，李渊将营地迁到安兴坊。
十月二十七日，李渊命令各军围攻长安城。规定：不准侵犯隋王朝皇家七庙和代王皇室，如有违令，诛灭三族。这是最得人心的，也可争取一大批人。十一月初九，军头雷永吉首先攀上城墙，于是，攻克了长安。隋王朝代王杨侑，身在东宫，左右侍从人员奔逃溃散，只有皇家侍读姚思廉站立在杨侑身旁。李渊的军士将登入殿堂，姚思廉厉声斥责军士道：“唐公兴举义兵，为的是扶助帝室，你们不可以没有礼貌。”这么一斥责，军士们都愕然，在庭院中排列站立。李渊到东宫迎奉代王杨侑，把他送到大兴后殿暂住，让姚思廉扶着代王杨侑，一直扶到顺阳阁下，李渊流泪哭泣，跪拜而别。李渊返回后，住在长乐宫，和百姓约法十二条，将隋朝的苛政酷令全部废除。
十一月十一日，李渊将阴世师、骨仪等人抓了起来，历数他们的贪婪苛酷，以及抗拒义师的罪行后，将他们处死。处死的共有十余人。其他人概不追究。这样就把敌人缩到最小的范围。
李渊赢得起兵节节胜利的重要原因之一就是注意策略口号。李渊父子的起兵不是打出“反隋”旗号，而是在“尊隋”的名义下进行的。李渊父子打着“尊隋”旗号的目的在于减少阻力，以便站稳阵脚。所以，李渊父子在“尊隋”旗号下，确实做了一些文章。
大业十三年十一月十五日，李渊派仪仗迎接隋王朝代王杨侑到大兴殿，登皇帝宝位，称为隋恭帝。杨侑当时年仅十三岁。他下诏大赦天下，改年号为“义宁”，遥尊隋炀帝为“太上皇”。十一月十七日，李渊从长乐宫进入长安，杨侑特赐李渊：假黄钺、使持节，委以大都督内外诸军事、尚书令、大丞相，晋封为唐王。李渊把武德殿改为丞相府，唐王发布的“教令”改称“命令”，每天到虔化门处理政务。十一月十八日，榆林、灵武、平凉、安定诸郡，都派遣使者前来称臣，请求任命。十一月十九日，杨侑下诏：所有军政事务无论大小，以及文武官员的任职，无论贵贱，典章制度的执行惩处，全部归丞相府处理。只有到郊外祭祀天地，以及四季祭祀祖先，才向皇帝杨侑上奏。
涿郡义军首领罗艺
李渊设置丞相府官属。他任命裴寂为长史，刘文静为司马。何潘仁派李纲进入长安觐见，李渊留下李纲为丞相府司录，专管选任官员事宜。又任命前考功郎中窦威为司录参军，命他制定礼仪。窦威是窦炽的儿子。李渊将府库中所有的东西都拿出来赏赐给有功人士，以朝廷的财政困难，右光禄大夫刘世龙呈献计策，他认为现在义师几万人都集中在京师，木柴草料价格昂贵，绸缎布帛价格便宜，把长安城中六坊以及皇家林苑中的树木，砍伐下来当木柴出售，用来交换绸缎布匹，估计可以换得几十万布匹。李渊采纳了这个建议。
十一月二十二日，李渊任命李建成为唐王世子，命李世民为京兆尹，并封为秦公，封李元吉为齐公。十二月初七，追谥唐王李渊的祖父襄公李虎为景王，父亲仁公李日丙为元王，李日丙的夫人窦氏为穆妃。
战斗仍在继续。薛举探知李渊已平定长安，便急忙派兵包围扶风。李渊派李世民率兵抗击薛举，又派姜谟、窦轨出使散关，安抚陇右地方的百姓，派左光禄大夫李孝恭招抚慰问山南，派府户曹张道源招抚慰问潼关以东各地。李孝恭是李渊的堂侄。
十二月十七日，李世民率兵在扶风进攻薛仁杲，大破薛仁杲军，并追击到垅坻才返回。薛举大为惊慌，问他的部属道：“自古天子有降事乎？”黄门侍郎钱塘人褚亮回答道：“赵佗归附汉朝，刘禅侍奉晋室，近代则有萧琮，其子孙迄今还地位显赫，荣华富贵，这种转祸为福的事自古就有。”卫尉卿郝瑗快步上前道：“陛下不应该问这种事！褚亮的回答又是多么荒谬！从前，汉高祖经过多次逃亡与失败，蜀汉的先主刘备屡次失去妻室儿子，可是他们最后都建立了帝业，陛下怎么可以因为一次失利，就作亡国的打算呢？薛举听了此番话也后悔了，他马上改口说：“只不过拿这些问话来试试诸位将领罢了。”于是重赏郝瑗，让他作自己的高参。
十二月十九日，平凉留守张隆，十二月二十一日，河池太守萧以及扶风、汉阳郡相继归附李渊。李渊命窦琎为工部尚书，封为“燕国公”，命萧为礼部尚书，封为“宋国公”。姜谟、窦轨率军走到长道县，被薛举击败，就率军撤退。李渊派遣通议大夫刘世让安抚招集唐弼的残军，刘世让与薛举相遇，战败，被薛举俘虏。
李孝恭击败朱粲，诸将请将俘虏全部杀死。李孝恭认为不能这样做，不然，往后就没有人敢投降了。于是从金川到巴中蜀地，檄文所到之处，投降归附李渊的有三十余州。
屈突通和刘文静相持了一个多月，屈突通又派桑显和率兵夜袭刘文静的军营。刘文静和左光禄大夫段志玄竭力苦战，桑显和兵败逃走，桑显和部属全部俘获。屈突通这时的处境愈加窘迫了。有人劝屈突通投降，屈突通哭道：“自己侍奉过两位帝王，皇帝对自己的恩宠照顾，都很优厚，拿着别人的俸禄而在困难时背叛，这是我万万不能这样做的事！”屈突通还常常指着自己的脖子说：“要当为国家受一刀！”屈突通慰劳勉励将士时，没有一次不痛哭流涕的，大家对此也很感动。李渊派其家僮去劝降屈突通，屈突通当即将僮仆斩首。当他听说长安已经失守，家属都被李渊俘获，便留下桑显和镇守潼关，率军东去，准备奔往洛阳。屈突通刚刚出发，桑显和就献出潼关向刘文静投降了。刘文静派窦琮等人率领轻骑，会同桑显和，追阻屈突通，在稠桑追上了。屈突通摆好阵势，坚守自卫，窦琮派屈突通的儿子屈突寿前去劝说，屈突通骂道：“过去是父子关系，如今成仇敌。你来干什么？屈突通命令身边的人用弓箭来射屈突寿。”桑显和对屈突通的部众说：“如今京城已经失陷，你们都是关中人，打算去什么地方？”屈突通的士兵就扔掉兵器投降，屈突通知道自己已无法逃脱，就跳下马，背向东南方向再三跪拜号哭道：“我的力量至此已经使尽，不敢辜负国恩，天地神灵，全都知道！”士兵抓住了屈突通，押送到长安。李渊任命他为兵部尚书。赐他“蒋公”的爵位，兼任秦公元帅府长史。
李渊派屈突通到河东城下，劝守将尧君素投降，尧君素看到屈突通，欷不止，悲不自胜。屈突通也流泪沾湿了衣裙。他对尧君素说：“我军已经失败，唐王义旗所指之处，无不响应，事情已经到了如此地步，你还是早些归降为好。”尧君素说：“你身为朝廷高官，隋炀帝把关中防卫重任委任给你，代王更依靠你保护社稷，你为什么背弃朝廷而投降呢？还替人家充当说客？你所乘的马，就是代王赏赐的，你还有什么脸骑着这匹马呢！”屈突通说：“哎，君素，我是力尽图穷而来！”君素说：“你力尽图穷，我现在的力量还未用尽，哪里用得着你多嘴！”屈突通渐愧退走了。
李渊自从攻克长安之后，便通告各郡县，于是东起商洛，西到巴蜀，各地的郡县官吏、义军首领、氐羌酋长，争相派遣子弟见唐王请求归顺。
这时，李密拥兵三十万，在邙山北麓列阵，南向紧逼洛阳上春门。窦建德、朱粲、孟海公、徐圆明等都派人奉劝李密称帝，李密属下裴仁基等也上疏请李密早日确定皇帝位号。李密回答道，东都的形势非常危急，不能谈论这些。正月二十二日，李渊命世子李建成为左元帅，秦公李世民为右元帅，率领各路兵马十余万增援东都。三月初四，李渊又派齐公李元吉为镇北将军、太原道行军元帅，都督十五郡诸军事，允许全权处理。
三月二十三日，隋恭帝下诏拨出十个郡，增加唐王的封地，仍然以唐王李渊为相国，总管文武百官，唐王可以设置丞相以下官吏，又加援李渊“九锡”。李渊对手下的官员说：“这是阿谀奉承的人干的事，我自己把握朝廷大政，又给自己加优宠和九锡，怎么可以呢？如果一定要照着魏、晋王朝“禅让”那条路，不过一连串复杂的仪式礼节，既骗上天，又欺人世。他们的作为赶不上春秋时的五霸，而所追求的美名，都超过了禹、汤、文王三王，我不但觉得可笑，还觉得很可耻。”此时，也有人说：“历朝都这样做，怎么可以废除？”李渊说：“尧、舜、汤、武王分别有自己所处的时代，登王位的方式各有不同，但都是以其至诚上应天意、下顺民情，从来没听说夏朝、商代末年就得效法唐、虞那种禅位。如果少帝知道内情，他一定不肯批准，假若少帝年幼无知，是我自己尊崇自己，又假意推辞，是平生从心里不愿做的事。李渊说了自己的真实想法，他只是把丞相府改为相国府，其他像“九锡”之类的特殊荣耀，都没接受。
李渊世子李建成等率增援军抵达东都洛阳，驻扎在芳华苑，东都城关闭城门，不出军接应，李建成派人前往招谕，又不答复。李密出军与唐军相争，只作稍微接触，就各自撤退。东都城里有不少人想作为唐军的内应，秦公李世民认为平定关中不久，根基还不牢固，即使得到东都洛阳，也不能守住。因此，没有接受作内应的要求。四月初四，又领军队返回关中。李世民认为城里看见唐军撤退，肯定会追来。因而在三王陵设置三处埋伏，严阵等待追兵。东都留守段达果然带领一万多人追来，遇到埋伏，打了败仗。李世民又追击败军，直抵洛阳城下，杀了四千多人。又设置新安、宜阳二郡，派行军总管史万宝、盛彦师镇守宜阳，吕绍安、任魏统兵镇守新安，唐军回师。
当时，东都隋廷能管辖的地方只有城里，人心不定，朝议郎段世弘等人秘密策划响应李建成等率领的军队。刚好李建成的军队已经撤退，于是，他们派人联络李密，约定四月二十五日夜里，迎接李密进城。事情被发觉，越王杨侗命令王世充诛杀了段世弘等人。李密听说城内已经被平定，不敢再进，便回去了。
隋炀帝的死讯传到长安，唐王李渊恸哭，十分伤心，他说道：“我北面称臣侍奉君王，君主失道不能挽救，又怎么敢忘记哀痛悲伤呢？”这也是李渊的一种策略。这为三月份的事。当时，隋王朝已经彻底瓦解了。李渊认为时机成熟了，便想一脚踢开隋恭帝杨侑。于是自导自演了一出禅让戏。
五月十四日，隋恭帝杨侑让位给唐王李渊，让出皇宫返回代王府。五月二十日，唐王李渊在太极殿即皇帝位，派刑部尚书萧造在长安南郊，禀告上天，大赦天下，改年号为“武德”。停止用郡，设置州，改太守为刺史，因为属于土德，所以颜色以黄色为尊。于是，李渊在关中重建新王朝，这就是唐朝。
