这时候武帝在甘泉宫避暑，除了江充一行人只有太子和皇后在场。太子只好向太子太傅石德求救，石德也害怕，万一太子被判罪他也得跟着死！石德只好建议太子放手一搏：“现在怎么说都洗刷不了罪名，干脆假传圣旨把江充集团一网打尽。现在皇帝在甘泉宫养病，江充等人封锁陛下的消息，生死未卜。有江充这群奸臣，殿下想想秦朝扶苏皇子的下场吧！”
七月，刘据发动他的门客假装使者调查江充等人的罪行，将他们抓捕。江充集团的韩说感觉不对，与门客们发生争执，结果被太子门客杀害。
首开得胜，刘据胆子越来越大，进入未央宫将一切告诉皇后，打开武库，组织军队，向大臣们宣布江充谋反。随后亲自将江充斩首示众，大骂道：“你这个赵地的大坏蛋！你他妈的就知道挑拨人家父子间的关系！”之后又将胡地的巫师们在上林苑全部活活烧死，昭告天下——诬陷一时爽，全部火葬场！
最后事态逐渐失控，太子竟然开始委任自己的门客做将领，与丞相刘屈髦发生战斗。
此时外界已经风言风语，四处散播着太子谋反的消息，刘据逐渐失去人心。战斗五天后，刘据的私人武装被丞相刘屈髦的政府军击败。刘据开始了逃亡，汉朝政府一时没法将其抓捕归案。
在长安东边的一个湖边，刘据被一个好心的穷人收留。过了大约一个月，刘据因为找寻一个老朋友而被发现，被官吏包围，无奈之下自杀。不久，收留刘据的那个好心人也被处死，刘据的妻妾、儿女大部分也受到牵连被杀害。刘据一脉只留下一个襁褓中的孙子（也就是武帝的曾孙），叫刘病已。监狱的主管陃吉怜悯这个皇曾孙，派遣两个女囚胡组、郭征卿照顾他，把他安排在最宽敞的一个牢房里。
在汉朝政局动荡的同时，匈奴势力继续复兴。这年冬天，时隔多年的东线匈奴势力再次入侵上谷郡（河北省张家口一带），中线也入侵了五原郡（包头一带），汉朝军民再次遭到屠杀和掠夺。第二年（前90）开春，狐鹿姑单于再次组织了对五原和酒泉两郡的掠夺，汉军两个都尉级别军官战死。
李广利奉命组织汉军的反击，率领七万人从五原郡出发；御史大夫商丘成率领五万人（一说三万人）集结于西河郡（今内蒙鄂尔多斯一带）；平定刘据“叛乱”而得到提升的军官马通率领四万骑兵出发于酒泉。三路大军齐路北上，兵锋直指单于庭。
狐鹿姑单于迅速做出反应，将辎重放到赵信城北部的郅居水（今蒙古国和俄罗斯境内的色格楞河），左贤王将部众迁徙到余吾河（蒙古境内的图拉河）一带。随后狐鹿姑单于亲自率军渡过姑且水到达今天的蒙古国乌兰巴托西南部。
御史大夫商丘成率军进入追邪径，没有找到匈奴人，正在撤军。几天后，三万匈奴军突然追击上来，在浚稽山一带与汉军交战。这支匈奴军总指挥是狐鹿姑单于，副指挥则是李陵。战斗持续了九天，汉军且战且退到了蒲奴水（我也不知道在哪里）一带，匈奴没占到便宜，撤离战场。
马通率军进入天山一带，匈奴将军偃渠率领两万骑兵拦截，但是见到汉军实力太强，没有与汉军交战。马通没有遇到匈奴人打算撤军回朝。因为害怕车师国的军队半路截杀，汉军联合楼兰等国将车师国灭国，俘虏了车师国国王，马通才顺利撤军。
客观地说，吃了无数次败仗的李广利这次也学乖了。匈奴的左大都尉和卫律指挥五千骑兵在夫羊句山的峡谷中布防等待汉军。李广利指挥两千属国骑进入战场与匈奴作战，冲散了匈奴的防御阵形，匈奴伤亡数百人，仓皇逃窜。李广利一路追击到范夫人城（今蒙古国达兰扎兰加德城西北），匈奴继续逃窜，不敢迎敌。
但是就在这时，李广利得到一个让他不敢相信的消息：丞相刘屈髦的妻子因为巫蛊入狱，李广利和刘屈髦图谋拥立皇子昌邑王刘髆（李广利外甥）为太子的事情也被揭发。这可是大逆不道的罪名！刘屈髦已经被满门抄斩，李广利的妻儿也已经被抓捕归案。
李广利很害怕，他的文书胡亚夫劝他说：“将军夫人和公子都已经被有关部门关押，这次撤军如果不合皇帝的意思，你们还得在监牢中见面。但是，在郅居水北岸还能再见到他们么？”
言下之意，希望李广利投降匈奴。李广利左思右想，最终决定继续北进到郅居水一带，希望通过取得一场重大胜利来赎罪。可是，这里竟然没有设防，汉军首批两万人轻轻松松地过了河。在河北岸，汉军遇到了左贤王和左大将的部队，两万骑兵背水一战，匈奴左大将战死，匈奴军损失惨重。
但是，汉军此时已经疯传内地的消息，大家都在议论，将军已经达成战役目的，为什么还不撤退？是想造反还是投降匈奴做汉奸？
议论纷纷之中，一些军官甚至想发动兵变，被李广利发现，斩首示众。但是军心已经涣散，李广利只得率军退守燕然山。狐鹿姑单于亲自率领五万骑兵与李广利部交战，两军僵持一天，互有胜负。夜晚，单于悄悄地在汉军阵前挖掘了好几尺深的沟壑，在汉军后方发动突袭。汉军一败涂地，李广利只好投降匈奴——这是汉匈战争中匈奴抓获的最高级别俘虏。
经历了一系列的打击，武帝也开始反思。又或者，此时汉武帝的更年期已经过去，思维逐渐恢复正常。他慢慢发现，那些所谓的巫蛊案件绝大多数都有可疑之处。一个在高祖陵寝当差的小官田千秋也在这时做了一个奇怪的梦，这个梦让他觉得自己承担了历史责任，于是上书说：“儿子瞎指挥父亲的军队，顶多判个打板子么！太子瞎指挥军队杀人，也不至于将他废了，更不该把他杀了啊。这话不是我说的，我梦见的一个白头发老大爷叫我说的。”
武帝见了这封奏折，对自己的长子非常想念，毕竟是亲骨肉。于是召见了田千秋，任命他为大鸿胪（外交部长）。
江充虽然死了但是家人还在，没二话，满门抄斩。同伙苏文是个宦官，没有家室，在长安城外的横桥上被活活烧死。那些在泉鸠里的湖边杀害太子的捕快全部株连九族。
武帝还觉得不够，一切都已经晚了，他将长安城新修建的宫室命名为思子宫，又在太子被杀的湖边修建了归来望思台。老年丧子，让天下人同情了这个老者，也让武帝这几年低迷的民意支持率逐渐恢复。
到了征和四年，前89年，武帝想起了一道刘屈髦和桑弘羊联名上书的奏折，希望能够加大西域屯田的规模。
其实这也没错，但是现在不是做这个事情的时候，连年的战争已经让汉朝不堪重负，巫蛊、内乱、败仗让汉朝政坛乌烟瘴气。
武帝做出了人生中最大一个手笔，成为了历史上第一个公开检讨自己的皇帝，颁布了第一部真正的罪己诏——《轮台罪己诏》。这篇罪己诏很长，说起来就没完没了了，大致嘛，说了四件事。
第一件事是说有关部门建议他让每个百姓多缴纳三十钱的税赋，以维持边防费用，现在有关部门又请求加大西域大开发的力度。武帝承认了自己发动对车师国的作战欠考虑，导致了汉军很大的伤亡，耗费了很多储备粮。
第二件事是承认自己太糊涂，不该让李广利出征匈奴。现在汉军战败，他也很痛心。
第三件事是否决扩大轮台屯田规模的建议，同时否决大鸿胪田千秋刺杀匈奴单于的建议，并且叙述了现在边防事务的一些不正规的地方。
第四件事是表明立场，今后一切以经济建设为中心，减轻赋税，鼓励农业，恢复战前养马不交税的政策，补充汉军马匹数量，保证国家军力不受到削弱。郡国的地方官今后每年都要提交马匹繁殖和补充战备物资的计划表，年终核对。
最后一句总结，实话说，有点小感人：“朕即位以来，所为狂悖，使天下愁苦，不可追悔。自今事有伤害百姓，靡费天下者，悉罢之。”
这是什么概念呢？打个比方，就相当于武帝在新闻联播上发表讲话，承认自己担任国家领导人期间，没有做好，害得民不聊生，以后会慢慢改正。
随后田千秋被任命为丞相，封为富民侯，用意也非常明显。之后很多求神占卜、长生不老、巫蛊什么的封建迷信也被废除，武帝再次回到了当年的状态。对于晚年的汉武帝，有一句评价非常好：“有亡秦之失，而无亡秦之祸。”
匈奴也闻到了和平的气味，狐鹿姑单于也需要让匈奴休养一阵子，于是乘着胜利的威望，写了一封信派遣使臣交给汉朝政府：
“南有大汉，北有强胡。胡者，天之骄子也，不为小礼以自烦。今欲与汉闿大关，取汉女为妻，岁给遗我蘖酒万石，稷米五千斛，杂缯万匹，它如故约，则边不相盗矣。”
汉朝当然不会答应这样屈辱的条件，毕竟不是文景二帝那个时期了，狐鹿姑单于估计也就过过嘴瘾，写着玩玩。但是，好歹人家派了使臣，你也得派个使臣过去意思下吧？
没想到汉使到了匈奴，却被狐鹿姑单于刁难：“听说你们大汉是礼仪之邦，对吧？”
“这还用说？”
“我听贰师将军说，你们的太子发兵造反，怎么礼仪之邦也有这种忤逆的事情呢？”
使者急了，脱口一句：“你可以侮辱我的人格，但是你不能侮辱我的民族文化！太子是因为丞相诬陷才被迫起兵想要诛杀丞相的，不过是皇子擅自动用父亲的军队，大不了打板子呗。哪像你们冒顿单于，杀了父亲娶了后妈自立为单于，畜生都不如。”
结果这个使臣被匈奴扣留，三年后才被放回汉朝。但是与另一个人相比，他已经无比幸运了。
不过也有更背的，李广利在匈奴很受优待，自然嘛，毕竟是高级将领投降。但是，原先的降将卫律不爽了，羡慕嫉妒恨。这小子玩了一个阴招：巫蛊。但是玩法很绝。这时单于母亲病了，机会来了！卫律假装很关心，又是请医生又是请巫师。巫师装神弄鬼一番之后，告诉单于和匈奴太后：“完了，先单于生气了。”
狐鹿姑单于很纳闷，问法师：“怎么说？”
“先单于在世时，经常说要抓到李广利去搞一场活人祭祀……”
“切，我当什么事呢，不就是杀李广利搞个祭祀嘛。先单于还用得着这么大动静？”
就这样，李广利在一次规模浩大的祭祀典礼上，被当作猪牛羊一样的牲口杀了献祭给匈奴的祖先和神明，这就是叛徒的下场。
