刘虞字伯安，是东海郯（今SD郯城）人。刘虞是汉室宗亲。曾经担任过幽州刺史，由于宅心仁厚，管理有方，在鲜卑、乌桓、夫余、秽貊等外族间有崇高威望，在其担任幽州刺史期间，鲜卑、乌桓、夫余、秽貊等部族都能按时朝贡，没有骚扰边境，受到当地百姓歌颂，后因公事（史书没记载，原因不明）被免官。
中平初年，黄巾作乱，攻破冀州诸郡，朝廷任刘虞为甘陵相，负责安抚灾荒后生活困顿的百姓，刘虞以身作则，本人又非常俭朴，逐渐成为下属学习的榜样。后升任宗正。
边章、韩遂反叛后，朝廷曾派车骑将军张温出兵讨伐，张温遂下令征调幽州三千乌桓骑兵出征，但因军粮供应不上，三千人都私自逃回到幽州乌桓。此时朝廷内忧外患，也无力追究，这件事让乌桓人觉得朝廷已无力管理幽州，影响很坏。
就东汉末年的幽州而论，乌桓是各种胡人之中力量最大的一种。主要分布在上谷（治今HB怀来东南）、渔阳（治今BJ密云西南）、右北平（今NMG宁城西南）、辽西（治今LNY县西）、辽东（治今LN辽阳北）五郡。
乌桓两字，有时也被写作乌丸。为了加强对乌桓的管理，东汉朝廷按西汉惯例设置了“护乌桓校尉”一职。
当时的“护乌桓校尉”姓箕名稠，也有说他不姓箕而姓綦。总之他不但不曾管护住乌恒，而且连自已的命都没有保住。
幽州境内有两个极有野心的官员：一个是泰山郡太守张举；另一个是中山国国相张纯。两人觉得时局动荡，朝廷已无力控制境内少数民族。有机可乘，就有了自立为王的贪念。
张纯说动了张举，推张举为天子，他则自称“弥天将军安汉王”。
灵帝中平四年（公元187年），张举、张纯联合乌桓的一个领袖丘力居，举兵造反，他们大肆招兵买马，杀掉了护乌桓校尉箕稠、右北平郡太守刘政、辽东太守阳终，劫掠青、徐、幽、冀四个州的不少郡县、村庄。
张举、张纯主要根据地在肥如（今HBLL县西北三十里)。为扩大影响，张纯、张举还向各州郡传送文书，扬言张举将取代汉朝，让天子退位，命公卿来迎接。
驻守幽州的武将名叫公孙瓒，作战勇敢，屡破鲜卑等叛军，但却没法平息这场叛乱，于是朝廷又想起了在鲜卑、乌桓、夫余、秽貊等族中有崇高威望的刘虞，188年，任命刘虞为幽州牧来管理幽州。
刘虞在处理政务上却是把好手。他没有公孙瓒驰骋疆场的能耐，但他有自已的一套办法。
到蓟城后，刘虞立即裁减驻军，广布恩德。并派遣使者告之乌桓另一个首领峭王等人：朝廷将宽大处理，可以免除他们犯下的罪责，为他们开辟光明正道。但同时悬赏通缉张举、张纯二人。
刘虞的高明之处就是只通缉张举、张纯二个人，而宽恕其他乌桓部众。分化瓦解，恩威并施，极好地离间了张举、张纯和乌桓人的关系。
本来乌桓等族民就很信任刘虞，再加上战争除了令本族民死伤外，并没有战胜公孙瓒等人的把握，所以纷纷脱离张举、张纯等人的控制，投靠刘虞。
很快张举、张纯就成了孤家寡人，只得被迫逃出塞外，其余的人都投降或四散逃走。
张纯为了活命就抛弃妻儿逃到鲜卑人居住区，别人却不愿和他一样逃命，张纯的门客王政就把他杀了，把首级送到刘虞那里领赏，刘虞也赏罚分明，表奏朝廷封王政为列候。
刘虞平息张纯、张举的叛乱之后，又做了一件大事：开放上谷市场，允许自由交易。刘虞的举措很快收到了成效，即促进了民族之间的融合，又增加了官府的收入。
原来在刘虞来幽州之前，幽州的官务开支极为吃紧，主要因幽州地处东北，为贫寒之地，一向需要青、冀两州补贴，但当时因战乱，交通断绝，无法调度钱资。刘虞开放上谷市场之后，本族百姓可与外族交易，另外官府开采渔阳的盐铁矿取得了不错的收入，不久令百余万青州、徐州流民，安居乐业。为表彰刘虞的功绩，汉灵帝特派使者升刘虞为太尉，封容丘侯。
董卓掌控朝政后，曾封刘虞为大司马，此次袁绍欲推刘虞为主，大概也是看中了刘虞的身份及金字招牌。但是刘虞有自已的考虑，一是自已的儿子在皇帝身边；另一方面他很注重自已的名声，并不想争夺皇位，何况拥戴他的只有韩馥和袁绍，这个有名无实的皇帝可不是好当的。
刘虞坚决不同意。袁绍、韩馥也没办法。袁绍又劝刘虞领尚书事，根据制度进行封侯拜官。刘虞还是没有答应。董卓也不知是否得知了这个消息，想把刘虞调回京城控制起来，就征召刘虞为太傅，但由于道路阻隔，符信命令不能送达而作罢。同时董卓为拉拢公孙瓒也封公孙瓒为奋武将军，封为蓟候。
