在忽必烈对付南宋的时候，元朝的北方，蒙古草原上也出现了叛乱。窝阔台的孙子为了夺取汗位发动了叛变。
在海都起兵之前，消息就已经传到了忽必烈耳中。忽必烈对群臣说：“海都是朕的宗室，我不希望再发生和阿里不哥一样的事情了，应当怀之以德，所以我要派一个谨慎稳妥的人前往，去设法说服他。”经过仔细考虑后，达鲁花赤铁连被认为是最佳人选。忽必烈召见了他，对他说：“这件事情非你前往不可，你可先到宗王蒙哥铁木王处，商讨一下对策。”
铁连接命后，打算先到海都处探其虚实，然后再和诸王商讨对策。可副使担心被海都杀害，不愿意前往。铁连见状，厉声说：“我亲领天子密旨，不听令者格杀勿论。”副使这才不得已跟随铁连到了海都那里。海都知道自己的准备还不充分，就天天召集宗王宴饮，一来拖延时间，二来想找机会杀害铁连。铁连看出了他的用意，故意对副使说：“多吃饭，少说话，免得被人抓住口实定罪。”海都也是蒙古的豪杰，他听了铁连的话愕然说：“你说话真是直爽啊，不过我不怪你。”于是海都有了想要收买铁连的想法。酒宴过半，铁连请求赏赐几件衣服。海都很欣赏铁连，就打算把自己的皮裘赏他，却被后妃制止，最后只赏赐了两件皮衣。铁连走后，海都不无感叹：“当使臣的能像铁连那样就不错了。”
铁连从海都处来到了蒙哥铁木王处，叙述了海都的情况。蒙哥铁木王听后说：“祖宗成训，凡反叛者，人人得而诛之。如通好不从，朝廷发兵进剿，我立即举兵响应。”
得到了蒙哥铁木王的明确回答，铁连不辱使命，安全回到元廷，上奏说：“海都兵多而精，不宜速战，他要是来攻，我们则应坚垒以待，长期消耗他，他就无力作乱了。”忽必烈听后也赞成铁连的意见，命铁连在朝会时穿上海都赐的衣服，并饰以黄金。跟着下诏封皇子那术罕为北平王，率兵镇守北方，以防患于未然。
1268年，海都正式举兵，反叛忽必烈。消息传来，忽必烈因准备充分，不慌不乱，他一面检阅军队准备迎战，一面派户部尚书昔班前往海都处，让海都罢兵来朝，将军事与政治巧妙地结合到了一起。昔班见到海都后，讲明了利害，海都也自知师出无名，表示愿意听从。可不料还未等昔班离开海都的军营，丞相安童的部队就已经和海都的部下交战了，并夺取了海都的辎重。海都气愤地对昔班说：“我念及你和我的父亲曾一起读过书，所以我不杀你，你回去把安童进攻我的事上奏给大汗吧，这次的战争可并不是我要挑起的！”就这样，一场耗时三十多年的战争开始了。
这场战争的初期，元军正集中精力对付南宋，无法抽调出足够的兵力北上，所以处于防御状态。海都善于用兵，他的士兵又剽悍异常，因此曾多次打败忽必烈的军队。忽必烈命皇孙甘麻剃和大将土土哈等出讨，结果都被海都打败，幸亏土土哈设伏以待，海都方才退兵，但和林已经失陷。
忽必烈立即北上，赶到漠北，亲自征讨海都，但海都已闻风远遁，忽必烈也毫无办法。南宋临安投降后，忽必烈把老将伯颜调往漠北，出镇和林，扭转了战局。
在伯颜镇守和林的数年里，海都曾多次发兵来攻，最终均被打退。这时，有人诬告伯颜“出居北方，与海都通好，所以无尺寸之功”。忽必烈疑信参半，令御史大夫玉昔帖术儿取代他，伯颜退居大同，另行安排。就在玉昔帖木儿将要到达和林的时候，海都又一次发起了进攻。于是伯颜派人告诉玉昔帖木儿说：“请你暂停前进，等我打退海都后，你再前来。”凡事以大局为重，不顾个人安危，再一次体现了他的名将风采。伯颜与海都激战七天，且战且退，部下诸将都认为他怯懦，忿忿地说：“将军如果惧战，为什么不把兵权交给御史大夫？”伯颜笑笑说：“海都孤军深入，半路邀击，他必然逃跑，诱敌深入，一战可擒。你们必欲速战，如果海都逃跑，谁负此责？”诸将说：“我们负责。”伯颜无法，只好纵军出击，海都果然兵败逃跑。他把玉昔帖木儿召至军中，授给他领兵的符印。皇孙铁穆耳当时受命抚军北边，置酒给伯颜饯行，席间他问伯颜说：“你就要离去，可有什么话要说？”伯颜举着酒杯回答：“对酒和女色要谨慎，军中纪律要严，恩德不可废。”铁穆耳点头同意。历史上的许多事情都是那么让人无奈啊！
1294年正月，忽必烈辞世，成宗铁穆耳即位。从1297年开始，元军多次出击海都，双方互有胜负。不久海都的部将笃哇偷袭元驸马阔里吉思的防区。阔里吉思一面迎战，一面通知相邻的三个戍守将领带兵相助。哪知那三人酒醉，喝得烂醉如泥，根本无法带兵。结果阔里吉思因兵少战败被擒，不屈而死。成宗气愤地下令逮捕了那三名玩忽职守的将领，但人死终不能复生。这时，叛军中的诸王药不忽儿、兀鲁思不花与大将朵儿朵哈向成宗的军队投降。成宗担心其中有诈，就派人前去监视。这一举动立即惹恼了兀鲁思不花，他一怒之下，纵兵抄掠，结果却反被成宗击败俘获。药不忽儿则未敢轻举妄动，所以成宗念及是宗室至亲，也就未对他采取措施。朵儿朵哈则先后两次叛逃，不过都被抓住。成宗本想杀他，朵儿朵哈则表示愿意将功折罪，药不忽儿也为他求情，并要求同行，最后终于得到了成宗批准。两人在今新疆吐鲁番一带设伏，击败了海都的大将笃哇。
这以后，成宗先用阔阔出镇守北方。阔阔出指挥无方，造成元军军心浮动。于是在1301年，成宗改任海山接替了阔阔出。海山率军与海都在和林附近展开激战。战场上，双方都死伤惨重，僵持不下。就在这时，海山的部将见笃哇纵横驰骋，一箭射中了他的膝盖，笃哇惨号逃去，他的兵将也随之败逃。这就致使海都陷入了孤军奋战的境地，最后也只好战败撤退。海都在战斗中也受了重伤。回到部落后不久就死去了。
海都死后笃哇与元廷议和，合力消灭了海都的残余势力，最后分割了窝阔台汗国。一场长达三十多年的汗位争夺战就此落下帷幕。
