汉献帝兴平二年（195年），兖州全部控制在曹操手中，曹操以此为根据地，开始了他诛灭群雄、统一北方的大业。
这时，汉廷虽然被地方势力所割据，但东汉朝廷仍被各地方割据奉为正朔，汉献帝仍是合法的王朝统治者，因而控制汉献帝是扩大政治影响、进而发展势力的重要手段。早在献帝初平三年（192年）曹操任兖州牧时，兖州治中从事毛玠就对曹操说：“现今天下分裂，皇帝西迁，百姓无法从事生产，饥饿流亡，政府没有一年的储蓄，百姓不得安宁，这是难以长久的。袁绍、刘表现在虽士民众多，但无长远考虑，不是建立牢固基础的人。出兵征伐要符合道义，要靠经济力量才能守住地位。应该奉天子以令诸侯，积极发展农业以保障军需，这样霸王之业可以成功。”
汉献帝西迁，朝纲不振，但统治全国数百年的汉室仍然具有一定的号召力。作为以皇权为依托的宦官的后裔，曹操自然知道汉天子在政治斗争中所具有的举足轻重的作用。因此，曹操非常赞同毛玠的建议，立即派使辗转至长安，以表示自己忠于汉朝，并利用黄巾军余众，在许县（今河南许昌市西）附近开展屯田，积蓄粮食，招募军队，又获颍川（治今河南许昌市西）名士荀彧为谋士。在以后三年多的时间里，曹操将占据南阳（治今河南南阳市）的袁术逐到淮北，两次进攻徐州（治今江苏邳县南），打败徐州牧陶谦，将袭据兖州的吕布逐至徐州。献帝兴平二年（195年）十月，汉献帝任命曹操为兖州牧，黄河南边这块地盘，成为曹操日后消灭北方割据势力的基础。
献帝兴平二年（195年）春，凉州军阀李傕杀了凉州将樊稠，焚毁长安宫殿，将汉献帝挟持到自己的军营当中，郭汜则将汉室公卿扣作人质，互相攻杀。李傕部将杨奉叛变，于同年八月挟持汉献帝东奔洛阳，他联合河东（治今山西夏县西北）白波军首领韩暹等，摆脱李傕、郭汜的围追堵截，于献帝建安元年（196年）七月到达洛阳。当时洛阳已经残破不堪，百官靠采集野草籽充饥，有的甚至饿死于残垣断壁之间。
许多人都热衷于争夺献帝的原因是控制了献帝，便可以获得政治上的主动权。献帝逃往河东之时，袁绍的谋士沮授曾建议袁绍挟持献帝，以号令诸侯。袁绍考虑了很长时间，最终未采纳沮授的建议。
在袁绍放弃挟持献帝的时候，曹操却策划如何把献帝弄到自己身边。献帝建安元年（196年），曹操在许县与部下商议此事，许多人认为山东还未平定，韩暹、杨奉等人自觉护驾有功，骄横凶暴，制伏他们有一定困难。荀彧说：“以前晋文公迎纳周襄王，各国一致推举他为霸主，汉高祖为义帝服孝的目的也是为了笼络民心。自从天子流离在外，将军首倡义军，是因为山东局势混乱，不能远去迎驾。现在皇帝已经返回旧京，但洛阳残破不堪，忠义之士希望能保全根本，百姓也非常怀念旧王室，并为此而伤悲。这时如能迎奉天子，以顺民心，是恰到好处的行动。用忠于王室的态度使天下心悦诚服，这是最明智的策略。恪守君臣大义，招揽天下英才，是最大的德行。即使四方有反叛朝廷的，但他们能有什么作为？至于韩暹、杨奉等人，有什么可值得顾虑的！与其将来后悔莫及不如现在及时行动。”
荀彧的话也正合曹操的心意。于是曹操派遣扬武中郎将曹洪率兵向西，到洛阳迎接献帝。曹操起兵讨伐董卓，到了荥阳时，被董卓的部将徐荣击败。曹操没了坐骑，而且后面敌兵追赶很急，曹洪跳下马来，把坐骑让给曹操，曹操拒不接受，曹洪说：“天下可以少了我曹洪，但不能没有您啊！”于是步行跟随到了汴水边，水很深，而且流得非常快，不能涉水过河，曹洪沿着河道找寻出口，终于寻到一只渡船，于是曹操得以渡河，返回到谯郡。扬州刺史陈温与曹洪是好友，曹洪以前曾领家兵千余人和陈温共同去招募过士兵，募得庐江上等兵两千人，向东又募得数千人，带着这支队伍，与曹操在龙亢会合。曹操征讨徐州，张邈凭兖州叛变，归附吕布。当时这里正闹饥荒，曹洪在前开路，占据了东平、范县，征集粮食来供养后续的部队。曹操在濮阳征讨张邈、吕布，吕布大败后退，曹操遂占领了东阿，转而又攻克了济阴、山阳、中牟、阳武、京、密等十余座县城。曹洪为曹操立下了汗马功劳，因而被任命为鹰扬校尉，继而升迁为扬武中郎将。
曹洪受到董承的阻击，不能前进。当时，在朝廷当权的人物中，杨奉的军队还算比较强大，但他与董承、韩暹钩心斗角，矛盾重重。曹操的好友议郎董昭以曹操的名义给杨奉写信说：“我对将军倾慕已久，只听到您的名声，便已推心置腹。现在您在困难中救出天子，护送回到洛阳，辅佐朝廷，其功绩无人可比。现今各地恶人猖狂，国家处于动荡之中，天子的责任重大，就更需要大臣辅佐。所有贤明之士都要努力，才能清除君王道路上的障碍，这件事不是一个人所能办到的。将军应在朝廷主持事务，我做外援。现我有粮草，将军有兵马，互通有无，足以相济。”杨奉收到信非常高兴，他对将领们说：“曹操的军队，近在许县，有粮有兵，这正是国家现在所依赖的。”于是上表推荐曹操为镇东将军，袭父爵为费亭侯。
这时，朝廷的韩暹与董承发生矛盾。韩暹自恃护驾有功，骄横霸道。董承非常讨厌他，便私下把曹操召请来。曹操亲率大军赶赴洛阳，朝见献帝。韩暹认为自己不是曹操的对手，便逃出京城。献帝任命曹操为司隶校尉，录尚书事，参与朝政。
曹操的目的是挟天子以令诸侯，如何才能很好地控制汉献帝呢？于是他将董昭请来，问他：“现在我到了洛阳，下一步到底该怎样办呢？”董昭说：“将军兴义兵以诛除暴乱，入京朝见天子，辅佐汉室，这是春秋五霸之功业。但是，现在的将领们都各怀异志，未必能听从您的指挥。留居洛阳辅佐朝政，有许多不便的地方，只有请天子移驾到许县这个办法最稳妥。然而朝廷在外流浪多日，最近刚刚回到洛阳，远近都盼望早些安定。今再迁都，恐怕人心动荡，望将军作出明智的选择。”曹操说：“我的想法也是如此，只是杨奉在梁县，距离我们很近，他的兵士强悍，会不会来找我的麻烦？”董昭说：“杨奉没有外援，所以他愿意与将军联合。任命您担任镇东将军，封费亭侯的事，都是杨奉的心意。您应及时派遣使者，带着重礼以示感谢，让他安心，并跟他说：‘洛阳缺乏粮食，想请皇帝暂时移驾鲁阳，鲁阳离许县近，运粮较为方便，可免去粮食短缺的忧虑。’杨奉是个有勇无谋的人，一定不会起疑。”曹操说：“这个主意甚好。”随即派遣使者去见杨奉。杨奉果然相信，于是曹操将汉献帝及朝廷文武百官迁至自己的根据地许县，改名许昌，作为都城，自任大将军，摆脱了杨奉等对朝廷的控制，将汉献帝牢牢地控制于自己的手中。
当曹操将献帝迁到许县之后，杨奉才感觉到自己上当了，企图出兵阻拦，但已来不及了。冬天，曹操攻打杨奉，杨奉战败，向南投奔袁术，梁县遂被曹操占领。袁绍听说曹操将献帝接到许县，十分后悔。他想让曹操把献帝迁到鄄城（鄄城离冀州很近，便于控制朝廷），被曹操一口拒绝。
建安元年（196年）九月，汉献帝下诏给据青、冀（治今河北冀县）、幽（治今北京市）、并（治今山西太原市南）四州之地的袁绍，“责以兵多地广，但专门树立党羽，不见勤王之师，只见擅自相互征伐”。这是曹操“奉天子以令不臣”的第一个政治行动。随后，汉献帝又下诏给吕布，称赞他诛杀董卓的功劳，令吕布与曹操共辅朝廷。献帝东迁后，关中出现几个政权，数十名军阀都据地拥兵自重，曹操任命侍中钟繇为司隶校尉，持节都督关中诸军，凉州将马腾、韩遂分别送子到许昌作为人质，曹操又通过天子将关中暂时置于自己的号令下。次年，曹操又任命当时已占据江东的孙策为骑都尉，继承其父孙坚乌程侯爵，领会稽太守，让他与吕布一起讨伐在寿春称帝的袁术。吕布虽据有徐州，却不得不派人去求曹操，希望朝廷正式任命他为徐州牧。荆州（治今湖北襄樊市）牧刘表据地自保，名义上仍臣服于曹操控制的汉朝廷，贡奉不断。建安三年（198年）正月，渔阳（治今河北密云西南）太守鲜于辅因曹操“奉天子以令诸侯，最终能定天下”，“率领其众以奉王命”，被任命为建忠将军、都督幽州六郡。于是，曹操就在袁绍的后方安下了一个楔子。后来曹操同袁绍决战，双方谋士在估量战局之时，无不将曹操奉天子有义战之名作为曹操政治上取胜的重要砝码。
曹操奉汉献帝迁都许昌后，他不仅获得了董昭、钟繇等原汉室臣僚，而且赢得了一大批士人的归心。经荀彧推荐，荀攸从荆州、郭嘉从袁绍处投奔到曹操帐下，躲避战乱于江南的杜袭、赵俨也于次年返回许昌，各种人才纷纷而至。他们从各个方面为曹操出力，使曹操能“用天下之智力”，最终平定北方。
这样，作为政治家的曹操，在东汉末年群雄竞逐的局面中，赢了第一回合，接着他又施展其军事家的才能，将北方的群雄一举消灭。
汉魏之间，社会生产遭受严重破坏，出现了大饥荒。这一时期，各军事集团最大的问题是粮食供应问题，因军粮缺乏而不攻自破者数不胜数。
献帝建安元年（196年），曹操采纳枣祗等人的建议，利用攻破黄巾军缴获来的物资，在许县一带募民屯田，当年就大见成效，获谷百万斛。于是曹操就命令在各州郡设田官，兴办屯田。屯田之举有效地解决了曹操军队的粮食问题，所以曹操说：“后因此大田，丰足国用，摧灭群雄，平定天下。”
曹操在实行屯田的同时，采取各种措施，扶持自耕农经济。针对人口流失、田地荒芜的情况，曹操先后采用招抚流民、迁移人口、劝课农桑、兴修水利、检括户籍的方法，充实编户，恢复农业生产。此外，曹操还陆续颁布了一系列法令，恢复租调制度，防止豪强兼并小农。曹操于建安五年（200年），颁布新的征收制度，到建安九年（204年），又明确指出：“其收田租亩四升，户出绢二匹、绵二斤而已，其他不得擅兴发。”曹操先后实行的这些措施，使濒临崩溃的农耕经济不断恢复和发展。这就是曹操集团拥有雄厚经济基础的根源。
通过以上措施，曹操统治区内的农业生产迅速恢复。这也是曹操在经济上取得的一大成功。
迎献帝迁都于许昌和恢复农业生产是曹操获得成功的两大重要举措。
从献帝建安二年（197年）起，曹操利用“挟天子以令诸侯”的政治优势，东征西讨，开始了他翦灭群雄、一统北方的战争。
