成吉思汗死后，蒙古汗国的汗位又陆续传了几代。公元1251年，贵由汗死后，汗位传到了蒙哥的手里。
蒙哥做了大汗以后，派弟弟忽必烈主管整个黄河以北地区的军事、行政事务。忽必烈借此机会结识了一批有学问的汉族知识分子，让他们做了自己的谋士。这些谋士向忽必烈讲述“汉法”，教他如何用中原的封建制度来统治全国。忽必烈胸怀大志，听了这些话很受启发。公元世祖忽必烈像元1258年，蒙哥发动三路大军攻打南宋，不久就病死在合州（今四川合州）的钓鱼台城。蒙哥死前，没有留下遗诏指定汗位继承人。蒙古朝廷中的一部分势力准备拥立留守漠北的阿里不哥为汗，另一部分人却拥护忽必烈。忽必烈与众臣商议，与南宋议和，然后派人迎接蒙哥的灵车，接受大汗的宝玺，自己则带着少数随从，火速赶回了燕京。他假借蒙哥的遗言，遣散了阿里不哥的兵力，并取得了蒙古一些重要大臣们的支持。1260年，忽必烈召开忽里台大会，继承了汗位。后来，由于阿里不哥思想保守落后，滥杀军将，抢夺财宝，很快就闹得众叛亲离。经过四年的战争，忽必烈终于打败了阿里不哥，取得了最后的胜利。
忽必烈继承了汗位以后，将政治中心从蒙古的和林移到了中原，开始实行“汉法”治理国家。公元1271年，在进攻南宋取得不断胜利的情况下，忽必烈接受汉族谋士刘秉忠的建议，取《易经》中“乾元”（极大）的意思，把蒙古国改为“大元”，元朝正式建立，忽必烈就是元世祖。元世祖在全国颁布建国诏书，向世人说明自己所统治的国家不只有蒙古一个民族，而是中国历代封建王朝的延续。第二年，忽必烈把燕京（今北京）改称大都，正式定为全国的首都。
忽必烈在位35年，重视以汉族传统法制治理国家。他重视农桑，兴修水利，设立驿站，制定法律和各项制度。忽必烈为了更好地控制全国，设立了行省制度，对后世产生了深远影响。他还强化中央对边远地区的控制，将西藏纳入中国版图，促进了我国多民族国家的统一和发展。
