赵匡胤以陈桥兵变轻易夺得后周政权，他担心别人也会用同样的手段迫使他“禅位”。如何才能使赵宋王朝长期巩固下去，不再成为五代之后的第六个短命王朝，是这位太祖皇帝必须面对的一个问题。
从一个小军官升到殿前都点检，又从殿前都点检跃上皇帝宝座的赵匡胤，深知兵权的重要性。他吸取后周灭亡的教训，一登上皇位就加强了对禁军的控制。
建隆元年（960年）末，宋太祖平定了李筠及李重进两个节度使的叛乱。一天，他突然召见赵普，问道：“从唐末以来，短短几十年间帝王却换了八姓，争战无休无止，百姓处于水深火热之中。我想要从此息天下之兵，建国家久长之计，你有什么好的办法吗？”
聪明的赵普早就思考过这些问题，他对太祖说，问题的症结在于唐亡几十年间方镇割剧，臣子的力量太强而君主的力量太弱。治理的办法只能是削夺这些臣子的权力，将他们掌握的精兵赋税收归中央，之后天下自然就安定了。宋太祖对赵普的话连连称是，说：“我明白了，明白了”。
建隆二年，赵匡胤将殿前都点检镇宁军节度使慕容延钊罢为山南东道节度使，侍卫亲军都指挥使韩令坤罢为成德节度使。因为殿前都点检是赵匡胤黄袍加身前担任过的职务，从此不再设置。由石守信接替韩令坤任侍卫马步军都指挥使。
石守信等人既是赵匡胤的好朋友，又在陈桥兵变中立下大功，这时升了官，又执掌重兵，不免会有些得意非凡。起初太祖以为他们都是自己的故友，并不介意。赵普却不这样认为，他数次进言说：“臣也不担心他们会背叛陛下，但是我觉着他们不能有效地统率部下。如果他们的部下贪图富贵，万一将来有一天这些部下起来拥戴他们，那他们恐怕也会不由自主啊。”这些话着实提醒了宋太祖。为避免陈桥事变重演，太祖皇帝开始采取措施解除这些禁军高级将领的兵权。
一天晚朝后，宋太祖把石守信、高怀德等禁军高级将领叫住，留下来喝酒。君臣几个相谈甚欢，当酒兴正浓的时候，宋太祖突然屏退侍从，他深深地叹了一口气，说道：
“若不是靠你们帮忙，我是做不了皇帝的，为此我从内心念及你们的功劳。但你们哪里知道，做皇帝也有做皇帝的难处啊，有时我觉着还不如做节度使快乐。不瞒诸位，这一年来我每到晚上都不敢安枕而卧啊！”石守信等人非常惊骇，忙问其中的原因，太祖接着说：“这还不显而易见吗，我这个皇帝的位置天下人谁不想要啊？”
石守信等人一听，知道皇上话中有话，连忙叩头道：“陛下何出此言，现在天命已定，谁还敢对陛下三心二意啊？”太祖说：“不是这样，我知道你们肯定是没有异心的，但你们部下想要富贵，如果哪一天他们把黄袍加在你的身上，你即使不想当皇帝，到时恐怕也会身不由己了。”
听了赵匡胤这一席话，石守信等人惊恐万分，他们知道皇上已经开始对他们有了猜疑，如果这件事处理不好，很有可能招致杀身之锅。他们一齐跪在地上哭了起来，恳请太祖皇帝为他们指明一条“可生之途”。
太祖缓缓说道：“人生在世，短促如白驹过隙，真正想要得到富贵的人，都应该多多地聚敛金钱，使子孙后代都能免于贫乏。你们不如放弃兵权，多置办一些良田美宅，为子孙后代留下基业。再多买些歌儿舞女，日夜饮酒取欢，以终天年。我们君臣之间也就没有了猜疑，上下相安，这是一件多好的事啊。”
石守信等人这才明白过来，一个个拜俯于地，嘴里不住称颂太祖恩德，感谢皇上为自己想得如此周全。第二天，石守信、王审琦、高怀德、张令铎等一齐上表称自己年老多病，要求解除兵权，太祖欣然同意，罢去他们的禁军职务，并多多地赏赐财物，还任命他们为节度使，可是又不让他们到地方上赴任，只待在京城，过着只拿奉禄不管实事的悠闲生活。同时，太祖皇帝废除了殿前都点检和侍卫亲军马步军都指挥司，禁军分别由殿前都指挥司、侍卫马军都指挥司和侍卫步军都指挥司，即所谓三衙统领。太祖选了一些资历浅，个人威望不高，容易控制的人来掌握三衙，这使得皇帝本人对军队的控制大大地得到了加强，为了“安抚”被释去兵权的石守信等人，太祖皇帝不仅向他们赏赐大量钱财，而且和他们“约婚以示无间”。太祖将寡居在家的妹妹燕国公主嫁给了高怀德，而女儿延庆公主和昭庆公主分别下嫁石守信之子和王审琦之子。张令铎的女儿则嫁给太祖三弟赵光美。
通过“杯酒释兵权”，宋太祖成功地控制了中央军力，可是地方上的一些拥有重兵的节度使还是不能够让他放心。
过了一段时间，太祖令这些些节度到京城来朝见，并在御花园为这些老臣举行宴会。他说：“诸位都是国家的功臣，我知道藩镇的事务现在非常繁忙，在这时候还要大家干这种苦差事，我心里非常过意不去啊。”
有些节度使立马想到石守信等人喝酒时被解除兵权的事，就非常识相地接口说：“其实我们本也没什么功劳，现在留在这个位子上，实在已有些不太胜任，希望陛下能够恩准告老还乡。”有一个节度却非常不知趣，不停地夸耀自己曾经立下了多少多少战功。太祖听着就皱起了眉头，轻轻地喝道：“这些陈年老账你还现在还提它干什么？”
宋太祖在第二天就将这些节度使的兵权全部解除了。
兵权收归中央以后，太祖还建立了新的军事制度。从地方军队挑选出精兵，编成禁军，由皇帝直接控制；各地行政长官也由朝廷委派。通过这些措施，新建立的宋王朝避免了长期的内部纷争，开始逐渐稳定下来。
