汉献帝初平二年(191)春，袁绍、韩馥推举刘虞做皇帝，但刘虞终究不敢答应。
这年四月，董卓回到长安。
七月，袁绍威逼韩馥，夺取了冀州。
黑山贼寇于毒、白绕、眭固等率领十多万人到魏郡、东郡抢劫，王肱无力抵抗，太祖领兵赶往东郡，在濮阳同白绕遭遇，大破贼兵。
袁绍为此上奏朝廷，举太祖为东郡太守，郡治设在东武阳。
初平三年(192)春，太祖驻军顿丘，于毒等进犯东武阳，太祖统兵向西，抄袭于毒在黑山的大本营。
于毒闻讯，放弃东武阳回师。
太祖在眭固伏兵阻击，又在内黄县攻击匈奴人于夫罗，把他们全部击溃。
这年四月，司徒王允与吕布联合杀死董卓。
董卓的部将李莈、郭汜等又斩杀了王允，攻打吕布。
吕布兵败，向东逃出武关。
朝政由李莈等人把持。
青州黄巾军百万之众攻入兖州，杀死任城国相郑遂，进到东平境内。
兖州刺史刘岱准备出兵阻击，济北国相鲍信劝阻说:“现在贼寇人过百万，百姓惶恐不安，我部士气低落，不能与他们正面交锋;贼兵随营有成群老少，军用物资奇缺，仅靠抢掠供给部队，如今我们应养精蓄锐，先固守城池。
他们求战不得，又攻城不下，势必离散，然后我们再选派精兵强将，占据险要地势，到时就可一举攻破贼寇。”刘岱不听，带兵与黄巾军交战，结果被杀死。
鲍信便和州吏万潜等人一同到东郡去迎接太祖，请他做兖州牧。
太祖带兵在寿张县东向黄巾军发动进攻，鲍信力战身亡，勉强击溃贼军。
太祖悬赏寻找鲍信的尸体，没有找到，众人只好用木头刻出鲍信的形象，祭奠他。
太祖追赶黄巾军一直到了济北，黄巾求降。
这年冬天，太祖得降兵三十多万，收编了其中的精锐，组成“青州兵”。
这时袁术和袁绍产生了矛盾。
袁术向公孙瓒求援，公孙瓒派出刘备、单经、陶谦几支人马援助袁术，结果被太祖和袁绍的联兵一一击溃。
初平四年(193)春，太祖移军鄄城。
荆州牧刘表切断袁术的粮道，袁术领兵进入陈留郡，驻扎在封丘，黑山贼寇余部和于夫罗等都援助他。
袁术派部将刘详驻守匡亭，太祖率兵攻打刘详，袁术带兵救援，双方激战，太祖大获全胜。
袁术兵败，退守封丘，太祖率军包围，袁术又逃往襄邑。
太祖追到太寿，决开渠水灌城。
袁术逃往宁陵，太祖乘胜追击，袁术只得逃往九江。
这年夏天，太祖收兵，驻扎在定陶县。
下邳县阙宣聚集数千人，自称皇帝;徐州牧陶谦也与他一同出兵，攻占泰山郡的华县、费县，攻打任城。
秋天，太祖征讨陶谦，攻克城池十多座，陶谦紧闭城门，不敢出来。
这一年，孙策受袁术的派遣过江，几年后就占据了江东一带。
汉献帝兴平元年(194)春，太祖从徐州返回兖州。
当初，太祖的父亲曹嵩解职归隐到谯县，因发生董卓之乱，到琅笽避难，结果被陶谦杀害，所以太祖立志讨伐陶谦，以报父仇。
这年夏，太祖派荀。。、程昱驻守鄄城，自己则领军征讨陶谦，接连攻克五座城池，夺取了直至东海郡的大片地盘，收兵经过郯县时，陶谦的部将曹豹和刘备截击太祖，被太祖击败，太祖又乘胜攻下襄贲县，所经之处，大多进行残酷的屠杀。
适逢张邈和陈宫叛乱，迎接吕布，各郡县纷纷响应。
荀。。、程昱保住了鄄城，范县和东阿县也因死守而幸免，太祖闻讯，领兵返回。
吕布一到，就进攻鄄城，攻城不下后领兵向西，驻扎在濮阳。
太祖说:“吕布一天之中便得一州，却不占领东平，切断亢父、泰山之间的通道，凭险要地势拦击我，反而驻兵濮阳，我因此断定他没有大的作为。”于是率军攻打吕布。
吕布出战，先派骑兵冲散“青州兵”，太祖军阵势大乱，他飞马冒火突围，掉下马来，烧伤了左手掌。
行军司马楼异扶太祖上马，带他冲出重围。
未到营地之前，众将因不见太祖，十分害怕。
太祖强自支撑，带伤慰问部队，命令部队赶做攻城的器械，准备再次进军攻打吕布，两军相持一百多天。
这时闹起了蝗灾，百姓们饥饿不堪，吕布军中的粮食也吃光了，于是双方各自撤兵。
这年九月，太祖回到了鄄城。
吕布兵至乘氏县，被当地人李进击败，东退驻守山阳。
此时袁绍派人劝说太祖，想与太祖和解，联合行动。
程昱劝阻太祖，太祖听从了他。
当年十月，太祖来到东阿县。
这一年谷米一斛值五十多万钱，以至于“人吃人”，太祖便解散了刚招募来的新兵。
此时陶谦已死，刘备接替他做了徐州牧。
