攻城的日期已经定下，辽东城危在旦夕。正在这时，杨素的儿子杨玄感造反了，炀帝只好私下里让将领带领军队秘密回国。军用物资、武器装备、攻城器具，堆得像山一样，加上营寨、帐篷，全都丢弃在原地。当时隋军人心惶惶，不听约束，各路军队跟第一次溃败时几乎一样，毫无组织。第二次出征高丽，因为国内叛乱，就这样不了了之。
又过了一年，也就是大业十年（公元614年），杨玄感的反叛已经被镇压下去，出征高丽的念头又涌上炀帝心头。二月，炀帝下诏让文武百官商议此事，可惜的是文武百官根本不予配合，一连几天都鸦雀无声。
不过胳膊到衣拗不过大腿，文武百官不合作归不合作，炀帝最后还是决定了。
七月十七日，炀帝车驾驻留怀远。当时天下大乱，所征召的军队大都没有按时到达，不过高丽当时也已困顿疲惫。
右骁卫大将军来护儿率领军队抵达毕奢城，高丽出兵迎战，被来护儿打败。隋军准备进逼平壤。高丽王高元十分害怕于十十八日遣使向来护儿请降。炀帝大喜，派遣使者持符节召回来护儿。
来护儿召集部下说：“大军三次出征，高丽都没能平定，这次回去就不能再来了，劳而无功，我私下很以为耻。现在高丽的确困顿疲惫，以我们这么多兵力进攻，取胜指日可待。我准备进兵直接包围平壤，擒获高元，胜利凯旋，不是更好吗？”
于是来护儿上表请求出征，想擒获高元后再班师。长史崔君肃坚决争执，来护儿不答应，说：“看高丽的形势，一定会被攻破，大家相信我，我们可以的。我在朝廷之外，可以自己决定，我宁愿擒获高元而受到谴责，也不能放弃这次成功的机会！”
崔君肃对大家说：“如果听从元帅违抗诏命，那么皇上怪罪下来，我们都会受到牵连。”每个将领都很恐惧，要求返回。来护儿只好接受诏命。
炀帝返回西京，让高元到西京朝见，但高元竟然不来。于是炀帝下令众将领整理行装，准备再一次进攻，但终究没能成行。
隋朝建国之初，曾经富庶一时，炀帝不恤国力，三次征讨高丽，不但最后无功而返，而且使百姓苦不堪言、怨声载道，结果起义不断。隋朝覆亡的祸根其实就是种在这里呀。
瓦岗寨起义
东郡韦城人翟让原是东郡的法曹，由于触犯了法律应当问斩。狱吏黄君汉惊奇于他的骁勇，夜里偷偷地对他说：“翟法司，我看你也是条汉子，怎么能在监狱里等死？”
翟让惊喜地说：“翟让现在就是关在圈里的猪，是死是活只能由您说了算。”
黄君汉立刻把翟让身上的枷锁打开，放他出来，翟让说：“我蒙受您的再生之恩，得以幸免，可是您怎么办呢？”说完哭泣流泪。
黄君汉生气地说：“本来以为你是个大丈夫，日后能救大众性命，这才冒死放你出来，你怎么能学小儿女的样子流泪感激呢！跑吧！不要为我担心！”于是翟让逃到东郡附近的瓦岗做了盗贼。他的同郡人单雄信骁勇矫健，擅长骑马用槊，号召了一帮青年人一块去追随他。
离狐人徐世家在卫南，当年才17岁，勇敢又有谋略，他劝说翟让，说：“东郡是我们的家乡，很多人都认识，侵犯东郡不大合适。荥阳、梁郡，汴水从那儿流过，我们抢掠行船、掠夺商旅，足以自给。”
翟让同意了，于是率领众人进入荥阳、梁郡的边境，抢夺行船，以供自用，后来归附的人越来越多，很快达到了1万多人。
此时跟随翟让的人很多，蒲山公李密跟随杨玄感谋反失败，从雍州逃亡后，四处奔走，也找到了翟让的队伍，向他们游说夺取天下的谋略。
开始时大家都不相信，慢慢地大家开始信任李密，都说：“这个人是公卿子弟，能有这样的志气，实属难得。现在人们都说杨氏将要灭亡，李氏将要兴起，都说最后做王的人大难不死，这个人就是这样，他们说的难道就是这个人吗？”于是渐渐开始敬重李密。
李密观察各首领，只有翟让势力最强，于是由人引见，见到了翟让，为翟让谋划事情，去游说那些力量小的盗贼都归附翟让。翟让很高兴，逐渐亲近李密，一些大事都和他一起商议。
李密退敌称公
隋义宁元年（公元617年）二月，李密游说翟让，说：“现在东都空虚，军队缺少训练，越王杨侗年幼，留守的官员人心惶惶，士人百姓离心。段达、元文都两人暗弱而且没有谋略，按我的料想，将军肯定能胜过他们。将军如果能用我的计策，只要大旗一挥，天下就可以平定。”
于是派遣党羽裴叔方去侦察东都的虚实，但被东都的官员发现了，这才开始准备防卫，并派人去江都向炀帝汇报。
李密对翟让说：“事已至此，只能行动。兵法上说：‘先发者制人，后发者制于人。’现在百姓饥饿，洛口粮仓里有很多积蓄的粮食，离东都也不远，将军假若亲自率领大军，轻装行进，前去偷袭。官军因为路程遥远无法援救，事先又没有防备，夺取洛口粮仓是非常容易的事情。
“等到隋军知道了，我们已攻占洛口，然后发放粮食赈济穷困的百姓，远近之人谁不归附我们？百万大军很快就可以集结。倚靠威名养精蓄锐，以逸待劳，即使东都派军队前来，我们也不用害怕。
“然后我们发布檄文号召四方，总揽四方贤才，挑选骁勇强悍的人让他率领军队，大家一起来消灭隋朝，让普天下都知道将军的政令。这岂不是一件壮举！”
翟让说：“这是英雄的谋略，我担当不了。我只能唯命是从，尽力而为，请您先出发，我来殿后。”
初九，李密、翟让率领精兵7000人从阳城北边出发，翻越方山，攻占兴洛仓，打开粮仓，随便百姓搬取。老人、虚弱的人还有抱着小孩的妇女，很多人都来归附。
杨侗派遣虎贲郎将刘长恭、光禄少卿房崱率领步、骑兵2.5万人前来攻打李密。当时东都的人都以为李密部众只是一群乌合之众，容易攻破，所以争着来应募。国子等三馆的学士以及贵族、皇亲都来从军，器械严整，衣服鲜美，各种征战物资都有。
刘长恭等人率领军队充当前锋，让河南讨捕使裴仁基等人的军队从汜水以西掩袭李密军队的后路，约定十一日在兴洛仓城南面会合。
李密、翟让得知了他们的详细计谋。
东都的官军先到，士兵们还没吃早饭，刘长恭等人就催促他们渡过洛水，在石子河西边布阵，军阵从南到北有十几里长。
李密、翟让挑选骁勇强壮的士兵分成10队，命令4队埋伏在横岭下等待裴仁基，其余6队在石子河东岸布阵。刘长恭等看到李密的兵力少，很看不起他们，然后就不免有些轻敌。
翟让首先率领士兵交战，不利；李密率领的部队从侧面进攻，隋军士兵因饥饿而大败。刘长恭等脱掉战袍，偷偷逃走，才得以逃回东都，隋军一大半士兵战死。杨侗赦免了刘长恭等人的罪过，还慰问安抚了他们。
李密、翟让缴获的大量隋军辎重、兵器、器械、铠甲，威名大振。于是翟让推举李密为主，上尊号为魏公。十九日，李密设立坛场，即魏公位，称元年，大赦。李密拜翟让为上柱国、司徒、东郡公，其余的人也封官拜爵，各有等次。
于是赵、魏以南，江、淮以北，各地群盗莫不响应，都来归附李密。所有人都封官授爵，让他们各自统领本部人马，设置百营簿来总管他们。归附李密的人天天都有，如流水一般，李密的部众很快达到几十万人。
李渊起兵太原
李渊任河东讨捕使的时候，请求让大理司直夏侯端辅助他。夏侯端是夏侯详的孙子长于观察星象和相面。他对李渊说：“现在玉床星动荡，帝座星不安，岁星在参宿的位置，一定有真命天子在这里兴起。除了您还会有别人吗！主上刻薄残暴，特别猜忌各李姓家族，如今李金才已经死了，如果您不想变通，李金才就是您的榜样。”
唐高祖李渊
李渊认为很有道理。等到他留守晋阳，鹰扬府司马许世绪也劝他说：“图谶上有您的姓氏，歌谣里有您的名字，您掌握五郡的军队，身处可以四面用兵的地方。举兵起事，就可以成就帝业；安坐不动，则很快就会灭亡。您可一定要慎重啊！”
行军司恺武士彟、前太子左勋卫唐宪、唐宪的弟弟唐俭，都认为李渊应该兴兵。唐俭说：“您在北面招抚戎狄，南面收附英雄豪杰，以此夺得天下，这是商汤、周武王才能够做到的壮举。”
李渊说：“我不敢自比商汤、周武，为私要保全自己，为公要拯救动乱，你姑且自己注意，我会认真考虑您说的话。”当时李建成、李元吉还在河东，受制于人，因此他不敢轻举妄动。
刘文静对裴寂说：“先发者制人，后发者制于人，应该劝唐公早点起兵，为什么他反而推迟拖延？何况你是宫监，却用宫人侍奉宾客，你死了无所谓，为什么要耽误唐公呢？”裴寂非常害怕，屡次催李渊起兵。李渊让刘文静假冒宫廷伪造敕书，征发太原、西河、雁门、马邑等地20岁以上、50岁以下的人，全部当兵，规定年底在涿郡集合，进攻高丽。因此人心惶惶，越来越多的人想造反。
等到反叛隋朝的刘武周攻占汾阳宫时，李世民再次对李渊说：“父亲大人受诏留守，皇上的离宫却被盗贼占据，如果不早点定下大计，灾祸真的就要降临了。”
李渊于是召集将领幕僚，对他们说：“刘武周占据了汾阳宫，我们如果不能制服他们，按律罪当灭族，怎么办？”副留守王威、高君雅等人都很害怕，叩拜不停，请求一切由李渊做主。
李渊说：“朝廷用兵，发动停止都要禀报，服从调度。现在盗贼离我们很近，江都在3000里之外，道路险阻，还被别的盗贼占据，如果单单依靠据城固守的方法和不能变通的军队，来对付气焰嚣张且狡猾的敌人，一定无法保全。我们进退都没有办法，该怎么办呢？”王威等人都说：“您既是宗室亲戚，又是贤德大臣，与国家休戚相关。如今奏报已经来不及了，关键是要平定盗贼，您自己专断也可以。”李渊装做勉为其难的样子，说：“这样就要先征集兵力。”
于是命令李世民与刘文静、长孙顺德、刘弘基等人各自招募兵马。附近百姓都来归附，近万人在10天之内前来归附。李渊秘密派人去河东召李建成、李元吉、去长安召柴绍。
王威、高君雅看到兵众聚集，害怕李渊造反，对武士彟说：“长孙顺德、刘弘基二人都是逃避征役的人，罪该处死，怎么可以统领士兵！”想要收捕长孙顺德与刘弘基。
武士彟说：“这两个人都是唐公的宾客，咱们如果这样做，大乱是免不了的。”王威等人只好作罢。留守司兵田德平想劝王威等人查看归附人的资料，武士镬说：“讨贼之兵都属于唐公，王威、高君雅只是寄身在唐公这里，他们不能怎么样！”田德平也只能作罢。
晋阳乡长刘世龙秘密报告李渊说：“王威、高君雅想趁您去晋祠祈雨，来行刺您。”
五月十四日夜，李渊让李世民率领士兵在晋阳宫城外面埋伏。十五日清晨，李渊与王威、高君雅坐在一起处理公事，刘文静带着开阳府司马刘政会进来，在庭院里声称有密旨下来。李渊看着王威等人，让刘政会拿给他们看，刘政会不给，只说：“告发的是副留守的事情，只有唐公能看。”
李渊佯装吃惊地说：“怎么会有这样的事？”看完状子后，说：“王威、高君雅刘政会不给，只私下勾结突厥人入侵。”
高君雅捋起袖子大骂，说：“造反的人想杀人灭口。”
当时，李世民已布置军队堵住街道，王威、高君雅被刘文静和刘弘基、长孙顺德等人一起捉住，关进了监狱。至此，李渊正式起兵，反叛隋朝。
