西晋王朝建立后，政治日趋腐败，到惠帝时，统治集团内部争权夺利，互相残杀，进而演变为“八王之乱”。这场凶残的大混战，使社会生产遭受到空前的大破坏，从而极大地加深了各族人民的痛苦。加之天灾频繁，罕见的大饥荒迫使数百万计的农民背井离乡，随处觅食，成为无业流民。
此外，自东汉以来内迁的少数民族，因不堪忍受汉族地主和西晋统治者强迫他们交纳重税、服兵役、徭役的痛苦，也纷纷举行暴动，并和越来越多的流民相呼应，从而形成了各族人民反对西晋残暴统治的起义斗争。
但是，一些少数民族首领如匈奴贵族刘渊等人，就竭力把各族人民的起义斗争引向民族仇杀，使之成为各族统治阶级之间争权夺利的战争。永兴元年（304年）刘渊在左国城（今山西离石）起兵反晋。永嘉五年，匈奴军破洛阳，掳晋怀帝。建兴四年（316年），匈奴贵族刘曜引军围长安，迫使愍帝出降，西晋就这样灭亡了。
从永兴元年刘渊起兵反晋称汉王起至太延五年（439年）北魏统一北方止，各族统治者在这135年间，先后在北方和巴蜀建立的割据政权有成汉、二赵（前、后）、三秦（前，后、西）、四燕（前、后、南、北）、五凉（前、后、南、北、西）和夏，历史上称“十六国”。实际上，还有汉人冉闵建立的魏、鲜卑贵族慕容泓建立的西燕和拓跋猗卢建立的代国。过去史书上将冉魏附于后赵，西燕附于后燕，代国因为是北魏的前身，所以，都不计算在十六国之内。
