秦始皇第一次在幅员辽阔和交通落后的条件下建立了中央集权的统一国家后，为了有效地统治广土众民，在全国设置36郡，由中央派出监御史，监察各地郡守，中央与地方的矛盾并不突出。
汉代郡、国并行，其数目较秦代增加了近二倍，因而中央直接统辖郡县便产生了困难。汉武帝时把全国分为13部州，各置刺史以察郡守，试图继续维持和强化中央对地方的控制。到东汉末年，刺史改为州牧，拥有财赋和行政之权，州由监察区变成了行政区，出现了州郡县三级制行政体制。中央使者成了最高地方长官，成为乱世破坏统一的割据势力。
三级制行政区的划分，实在是中央与地方矛盾关系的产物。一方面，要在统治手段（交通、通讯）相当落后的条件下完成对广袤疆域和众多人口的有效统治，在原有二级制机构之上另设立一级机构是势所难免的；但另一方面，一旦新立机构官吏成为地方最高长官，掌握军政大权，特别是当政治经济军事力量平衡局面被打破时，地方就容易形成与中央对抗的割据局面。
客观地说，这些因素对于藩镇割据有一定影响，但并不是根本的原因。造成割据的根本原因有两条，一是中央没有一支能统摄全局的武装力量，而地方拥有重兵；二是地方军事权和行政权的合一，造成了中央与地方的对立。
军政权力的相合，造成了中央政权大权旁落、地方群雄竞起的尴尬局面。这些藩镇“大者连城十数，小者亦兼三四”，它们自除官吏，不由中央；专擅财货，豢养骄兵；以武人典狱，法外施刑。最终发展到“大者称帝，小者称王”。
事实上，处理好中央与地方关系，加强中央集权，不是赵匡胤和赵普的主观臆想，这种需要，也是从晚唐五代数十年间统治者不断总结经验教训的一个成果。在他以前的许多前辈“老师”，例如朱温、李存勖、李嗣源、郭威、柴荣等都做过某种程度的尝试，为他的成功铺就了一块块基石。
在解除藩镇武装上，朱温对魏博牙兵的打击可谓突出的一例。
藩镇之所以能军事割据，核心是掌握着一支“牙兵”。唐末魏博牙兵“强买豪夺、逾法犯令，吏不能禁。”到后来发展到“父子相袭，亲堂胶固”，以至“变易主帅，如同儿戏”，变成了一股特殊的武装力量。公元906年，朱温在称帝的前一年，派客将马嗣勋、寇彦卿等，领军千人，乘其不备，突袭魏博牙兵，“死者七千余人，洎于婴孺，亦无留者”。杀戮持续了半年，终于使这股特殊的武装力量得到平定。定州王处直因为“牙帐”跋扈难制，便“自队长以上记于别簿，渐以他事孥戮，迨二十年，别簿记之，略无孑遗。”这些措施是有成效的。魏博牙兵经过两次消灭后，赵翼称之为“魏之骄兵，至是而尽”。
另外，对一些重镇，用“陪都”的名义直接置于中央政权控制之下，也是削藩的措施之一。后唐曾把太原叫做“北都”，把魏博命名为“兴唐府”。将真定、河中、凤翔等镇的县，升格为“次畿”。
再有，开始实行剥夺地方的招兵权，拆毁城隍等措施。后唐明宗天成元年（公元926年）规定，节度使、刺史今后的“牙队”，只许在国家规定的数目内，不得自行“招致诸色人”。后唐庄宗还借潞州杨立叛变事件，撤除诸道城防，“潞州城峻而隍深，故立辄敢据之，庄宗因兹诏诸道撤城防之备焉。”后周时，郭威又进一步罢去了州郡自造武器的权利，下令“诸道作工赴京作坊以备役使”。
最重要的一点是，五代诸君在削弱地方兵权的同时，不约而同地采取了加强中央军队的措施。后梁朱温以李顷掌禁军，“倚为肘腋”。后唐设置“侍卫亲兵”制度，潞王李从珂在位时，禁军数达到10万。后周柴荣对中央军队的整编，赵匡胤即是直接参与者。
除收取地方兵权外，在行政、财政大权方面，五代诸朝也开始实施诸多限制。
后唐庄宗削弱了地方任用官员的权力。“今后大镇节度使，管三州以上者，每年许奏管内官三人，管三州以下者，许奏二人。”明宗时，规定内外官僚，包括节度使、刺史一切在内，“并不得擅发书题，妄行请托于诸处安排公人”，如有违者，荐者和被荐者都要受到严厉处分。后汉、后周都有诏命，“两京诸道州府留守判官、两使判官、少尹防御团练军事判官，今后并不得奏荐，”后梁时，还曾规定郡县长官权位高于镇将，并命令以后刺史可以不通过节度使直达中央奏事。
前代各朝为加强中央集权采取了诸种措施，并不能因此就看轻赵匡胤的种种努力。一是各朝采取的措施并不系统，大多没有从根本上，或者说提出一套完整的措施来固定这种中央对地方的控制关系；二是朝代更替频繁，许多措施的贯彻落实很难收到应有的效果。所以即使在周世宗时期，藩镇的势力仍然是较为强大的，中央支配地方的地位并未得到巩固。淳化二年正月，宋太宗曾对近臣讲起：“前代武臣，难为防制，苟欲移徙，必先发兵备御，然后降诏，若恩泽姑息，稍似未遍，则四方藩镇，如群犬交吠，周世宗时，安审琦自襄阳来朝，喜不自胜，亲幸其第。”号称一代英主的周世宗，对安审琦如此礼遇有加，实在是一种言不由衷的表白和姿态，也反映出内心对藩镇势力的畏惧。他在征伐淮南返回时，许州百姓向他告发节度使向训的诸种不法之事，周世宗不但没有派人查实予以处罚，相反却把此人交给了向训，向训便把这位倒霉的告发者活活沉入水中。李筠任潞州节度使8年，种种不法之事，所闻不少，但周世宗不敢采取什么措施，听凭他在这块独立王国胡作非为。
但赵匡胤则不然，首先，他依靠禁军夺取了政权，表明他对中央军事力量的控制已有完全把握；其次，先后消灭了李筠和李重进割据势力中的最强大者，向其他藩镇显示了中央力量的强大。也表明削夺藩镇之权的时机已经成熟。
削夺藩镇主权，其手段不只一种，无论采取何种手段，都贯穿着赵匡胤基本的统治意图：强干弱枝，集权于中央，集权于自己。
一般认为，赵匡胤削夺藩镇之权，并没有采取急风骤雨式的剥离方式，而是以渐进的、有条不紊地创设种种制度，采取恩威并施、文武相济的各种手段得以完成的。而且这一过程一直延续到宋真宗时代。
赵匡胤之所以能如此从容，不外乎一是他已完全控制了局势，特别是对军队的统御。论实力，各路诸侯已无力与赵匡胤一争高下。二是从统治的角度看，怀柔政策有时比军事进攻更为有效。中国人历来讲究“不战而屈人之兵”，对赵匡胤来说，执掌权柄他喜欢一人独揽，可是装门面，在天下臣民面前树立一个好的形象却是他一直努力在做——而至今尚未做成的一篇文章。
或许还有一层较为隐秘的原因。赵匡胤本人曾做过节度使，而且是在节度使任上当上皇帝的，因而对这些坐镇一方的藩帅的种种心态自然了如指掌，采取何种办法，如何选择最佳时机，他应该是胸有成竹的。
赵匡胤对那些直接构成威胁，并有明显造反动机及行动的藩帅施之以武力，而对那些关系比较疏远，且持有疑虑的节度使，则采取调动的办法，使他们难以形成独立王国，以削弱其割据的基础。
至于个别看不顺眼而又没有多少能耐的节度使，赵匡胤根本用不着挖空心思地调兵遣将，动用军队，甚至连调动之类的把戏都不需要，随便找个借口就可以将他就地免官。公元962年二月，滑州节度使张建丰，就因为一起“甲仗军资”仓库失火事件，被赵匡胤免掉了节度使，并将他发配唐州。其实，有许多比军用仓库失火更为严重的事件，赵匡胤从不把它放在心里，有些赵匡胤还曲意为之辩解、遮掩。显然，失火事故，不过是赵匡胤的一个漂亮的借口而已。
对于那些长期居住边疆，拥有少量军队，父终子继的节度使，也就是少数民族的首领们，赵匡胤则对他们实行特殊政策。例如对定难节度使李彝兴（治夏州，今内蒙古乌审旗）、永安军节度使折德扆（治府州，今陕西府谷县）、灵武节度使（治今宁夏灵武县）冯继业等人，“许以世袭”，不再由朝廷另行派员，而让他们继续戍守西北边防。公元961年，折德扆入朝觐见，赵匡胤对他“待遇有加”，公元962年，李彝兴派遣使者进贡名马300匹，赵匡胤正命玉工为自己制作腰带，得到消息便灵机一动，召见使者，询问李彝兴的腰围有多大，使者说李彝兴粗腰大腹，赵匡胤恭维道：“你的主帅真是个福人。”当即派人将打制给自己用的玉带赐给了李彝兴。这种怀柔确实收到了意想不到的好处，这些节度使不但没有造反，而且戍边也很卖力。
自建隆、乾德年间开始，赵匡胤将自己的亲信和比较有才干的中央官吏分派到新征服地区和重要地区担任知府知州，以贯彻自己的治国方针和统治意图，这些官员毫无例外都是文官，又是以中央大员身份“代理”掌管地方事务，从而在收夺了节度使所拥有的行政权力的同时，又加强了地方与中央的联系。赵匡胤之所以热衷于以文臣代替武将，就在于以他的经验，觉得武将大都骄横跋扈，动辄举兵犯上，而文臣与军队联系较少，关系不深，难以形成兵连祸结、反叛朝廷的气候。赵匡胤对于这一指导思想甚为得意，他说：“今用儒臣干事者百余人，分治大藩，纵皆贪浊，亦未及武臣十之一也。”宁愿让文臣“贪浊”，也断不容武人举兵犯上，这便是赵匡胤的根本心思。
赵匡胤所开创的“文臣知州事”制度在宋初的几代皇帝手中得以继承和发展。到宋仁宗时期，全国上下简直成了文人的世界。所以蔡襄形容说：“今世用人，大率以文辞进：大臣，文士也；近侍之臣，文士也；钱谷之司，文士也；边防大帅，文士也；天下转运使，文士也；知州郡，文士也。”
在实行“文臣知州事”的同时，赵匡胤还采取了另一项收权措施，即逐步罢废支郡。
所谓“支郡”，就是非节度使直接治理的州郡。唐末五代时期，一个节度使除了管理所驻州郡的政务外，还要治理附近州郡的政务。如山南东道节度使辖襄、均、房、复四州，节度使驻襄州，均、房、复三州各有防御使、团练使或刺史处理州务，但须秉命于节度使，而不能直达于朝廷。均、房、复三州就是山南东道节度使的“支郡”。
以文臣知州事和废罢支郡措施的实行，使位尊权重、声势煊赫的节度使的权力受到了很大的削弱，其实际权力仅等于某一州府的长官，有的甚至徒具虚名，仅仅属于一种荣誉称号。自中唐以来藩镇权势过重，拥兵自大的情形终于得到了改观。
收夺藩镇之权，并不是赵匡胤的终极目的。按照他的思路来调整严重颠倒的中央和地方关系才是他的真实意图。因此，除削夺地方藩镇之权之外，对州郡的行政权力也要进行限制。即使任命文臣知州，也要防止其权力过大。为此，赵匡胤又采取了两项措施。其一是“三岁一易”，即“知州”、“知县”在一地的任职时间不得超过3年。乾德三年（公元965年）北海军（今山东潍坊）知军杨光美任职已满3年，由于在当地为政清廉，颇得百姓爱戴，当地数百人赴京请愿，请求杨光美继续留任，赵匡胤派人劝他们散去，在劝阻无效的情况下，赵匡胤采取断然措施，“笞其为首者”，才将请愿者赶走。乾德四年七月，赵匡胤下令，“自今诸州吏民不得即诣京师举留节度、观察、防御、团练使、刺史、知州、通判、幕职、州县官”。这是针对北海军百姓请愿事件由政府作出的反应。他同时还指出：“若实以治行尤异，固欲借留，或请立碑颂者，许本处陈述，奏以俟裁！”这道命令的意思是，确实政绩突出，坚持继续留任者，也应通过正常渠道请求，由中央政府来决定。可见，当时执行“三年一易”的制度是多么地坚决。
