北魏初年，朝廷在北边设立军镇，旨在防御柔然南下，护卫京都平城（今山西大同），因而受到特别重视。他们不仅可以做官，而且还享受免除租赋的特别优待。朝廷也经常派人慰问，称他们是“国之肺腑”。但自迁都洛阳之后，政治重心南移，边镇不再显得那样重要。由于战争扩大，兵源不足，政府陆续将“降户”和死刑徒发往边镇戍守。在人们心目中，边镇已成为流放罪犯的地方，边镇将士的优越地位一落千丈。而这些边镇将领又多是极其贪婪残暴的鲜卑贵族，他们既肆无忌惮地剥削压迫其手下的镇兵，又残暴地欺凌当地的居民和敕勒等少数民族。因此，这些地区的阶级矛盾、民族矛盾尤为激烈。
魏孝明帝正光四年（523年），武卫将军于景出任怀荒镇（今河北张北县）镇将。时值柔然入寇，镇民饥饿，请求于景开仓赈济，于景不肯，镇民大怒，将于景杀死。不久，沃野镇（在今内蒙古五原县境）镇民在匈奴人破六韩拔陵的率领下，杀镇将，聚众起义，正式拉开了北魏末年边镇人民大起义的序幕。
正光五年（524年）四月，高平镇（今宁夏固原）镇民赫连恩（匈奴人）等聚众起义，共推敕勒族酋长胡琛（高平人）为高平王，攻占高平镇以响应破六韩八陵。北魏遣别将卢祖迁前来镇压，义军失利后撤出高平。这年六月，起义于秦州（今甘肃天水）的羌族人莫折太提派部将卜胡袭攻高平镇并占据该城。十一月，高平人杀死卜胡，迎胡琛进入高平。从此，高平镇完全掌握在胡琛率领的义军手里。胡琛派兵围攻薄骨律镇，魏守将贾显度无力抵抗，遂率镇民乘船顺黄河而下。孝昌元年（525年），北魏朝廷派征西都督崔延柏与行台萧宝寅共同领兵5万，与莫折念生（莫折太提已死，其子莫折念生继立）等大战于岐州、陇东一带。秦州义军战败，死伤10余万，遂退回小陇山（今甘肃天水东）。四月，胡琛派出得力部将万俟（m ò qí）丑奴（鲜卑族）和宿勤明达进攻泾州（今甘肃泾川），以增援失利的秦州义军。这时，魏军有甲卒12万，铁骑8000（均包括当地驻军），敌我力量悬殊。魏将崔延柏因刚刚大胜秦州义军，骄气十足，根本不把高平义军放在眼里。他令士卒伐木造大盾，号“排城”，派健卒负之北上，杀声震天。万俟丑奴先设伏兵，又挑选数百骑兵持文书前去诈降。崔延柏、萧宝寅还未打开“降书”，义军伏兵和诈降骑兵两面夹攻，破崔延柏的“排城”，魏军大败，死伤近2万人，不得不退保泾州。崔延柏自耻失败，于是修缮战甲兵器，招募骁勇之士，也不通知萧宝寅，独自率兵出战。义军抛弃军需辎重，不战而退。魏军不知是计，竞相争抢起来，秩序大乱。义军乘胜反击，再次大败魏军，崔延柏中箭而亡，士兵死者万余人。
泾州战役后，胡琛滋长了骄傲情绪，又对秦州义军当时派卜胡攻占高平耿耿于怀，以至于错误地收留了秦州义军的叛徒吕伯度，并派其率领一部分高平义军进攻莫折念生的秦州义军。吕伯度屡败秦州义军后，又掉转矛头攻打高平起义军，然后降魏。莫折念生为了消除和胡琛的隔阂，擒魏将崔士和送与胡琛，中途杀掉。后来，万俟丑奴也杀了吕伯度。胡琛与莫折念生联合起来后，却又对沃野镇起义军首领破六韩拔陵显出傲慢，引起拔陵的不满，便派人到高平诱杀了胡琛。胡琛死后，万俟丑奴继任起义军首领。孝昌三年（527年），莫折念生率军进攻雍州时，不幸中箭而死，其部众溃散后尽为万俟丑奴收编，高平义军的势力更加强盛。而此时的魏行台萧宝寅自念累年出师无功，心中很不安然。据说萧宝寅是南朝齐明帝之子。泾州大败后，他被免为庶人，后任雍州刺史。孝昌三年，以执法严峻闻名的地理学家郦道元出任关右大使，萧宝寅以为郦道元是来收拾自己的，便派人将其暗杀，公开叛魏，自称齐帝。次年一月，又为部下战败，遂奔高平投降万俟丑奴，丑奴以其为太傅。是年七月，万俟丑奴自称天子，置百官。时值波斯国使者向北魏献狮子经高平，丑奴留之，故建年号为“神兽”（或作“神虎”）。永安二年（529年），万俟丑奴攻克秦州，杀死刺史胡子朗，进而进攻关中。此时，北魏已镇压了河北起义，遂腾出手来镇压高平起义军。北魏以尔朱天光为骠骑大将军，统领贺拔岳、侯莫陈悦、宇文泰等前往征讨。永安三年（530年）三月，万俟丑奴攻岐州，命其大行台尉迟菩萨、仆射万俟仵（wù）进军武功。贺拔岳督其前锋宇文泰迎战。渭水一战，义军败退，菩萨被擒。四月，丑奴弃岐州退守安定（今甘肃泾川县北）。尔朱天光与贺拔岳合兵，营于汧（qiān，在今陕西陇县南）、渭间，并四处传言：“现天气渐热，非征讨之时，待秋凉再图进取。”丑奴信以为真，遂散众于岐山之北细川耕种。尔朱天光趁义军分散，发动突然袭击，连拔义军数栅，又直逼安定城下。义军泾州刺史俟几长贵献城投降。丑奴向高平撤退，贺拔岳率轻骑追击，在平凉长平坑一战，生擒丑奴，义军溃散。尔朱天光进逼高平，城降，萧宝寅被擒。万俟丑奴和萧宝寅被送往洛阳处死。历时7年的高平起义最终失败了。
高平起义，是北魏末年各族人民大起义的重要组成部分，它与六镇义军、秦州义军互为应援，在关陇、河套以及陕北各地攻州拔县，多次打败北魏官军，沉重地打击了北魏的黑暗统治。虽然各路起义军最后都失败了，但却从根本上动摇了北魏政权，使其分裂为东魏和西魏。各族人民在战斗中，紧密团结，互相应援，极大地促进了彼此间的交融，为后来的民族大融合和新的大统一奠定了社会基础。
