赵匡胤登上帝位之后，虽然披上了龙袍，坐上了龙椅，但有一块心病却在持续困扰着他，那就是五代以来轮番上演的兵变惯性，那些猛士悍将一旦掌握了中央禁军的兵权，或者盘踞地方，很容易拥兵自重，甚至取而代之。为此，他茶不思，饭不想，睡不安稳。如何杜绝此类事件的重演，是当务之急。
一天，赵匡胤问赵普：“天下从唐末以来，数十年间，换了八姓十二个皇帝，弄得兵革不息，生民涂炭，倘要息兵养民，保持国家长治久安，有什么好办法呢？”
赵普回答说：“这些祸乱，原因无他，只因节镇权力过重，君弱臣强而已。如今要长治久安，惟有稍夺其权，制其钱谷，收其精兵，三管齐下，天下自然安定。”赵普话未说完，宋太祖连连称善，于是，他开始实施历史上没有几个人用过的政治手腕。
收兵权首先是从较疏远的高级将领开始的。节度使分兼侍卫亲军司马军和步军都指挥使的张光翰、赵彦徽，在开国功臣中分别排名第五、第六位，他们首先被夺兵权。960年七月，宋太祖的“义社兄弟”韩重赟征伐李李筠回来后，立即命他代张光翰为侍卫马军都指挥使;赵匡胤篡位之际，挺剑逼迫首相范质臣服的亲信罗彦瓌，也于此时被安排代赵彦徽为侍卫步军都指挥使。张光翰、赵彦徽被夺兵权后，分别改命为永清军节度使、建雄军节度使。于是，领军大将被夺兵权后出为地方节度使，便成为了赵匡胤打发他们的惯用政策。
960年十一月，平定淮南李重进后，收兵权的矛头指向殿前、侍卫两司的最高长官。慕容延钊后周末以镇宁军节度使任殿前副都点检。赵匡胤发动兵变灭周建宋时，正率前军屯驻真定的慕容延钊，被提拔为殿前都点检。他奉诏自河北率军西征李筠获得胜利后，被晋升为侍中，享受宰相待遇。但是，赵匡胤没有让他到京城殿前都点检公署任职，而是安排他回节镇所在地。当赵匡胤的把兄弟赵彦徽被夺兵权事件发生后，慕容延钊担心功高震主，便在961年二月到京朝贺赵匡胤生日之际，上表自请解除兵权。
同年闰三月，慕容延钊即被罢去殿前都点检军职，移为山南东道节度使，治襄州。殿前都点检一职也就此废止。韩令坤在后周时任殿前都虞候及建节都在赵匡胤之前。赵匡胤建宋时，他正以侍卫亲军都虞候巡防北部边境，随即也被升为侍卫亲军都指挥使、加同平章事，为使相，礼遇与慕容延钊相同，但也并未回京实际掌握侍卫司兵权。征讨李筠时，他奉诏自北疆率军屯守河阳，虽未参加征讨，但平李筠后，也进为侍中级使相。当建隆二年春慕容延钊自请解军职时，韩令坤虽和宋太祖亲密如铁哥们，但也同时被夺兵权，安排到成德军节度使。赵匡胤的“义社兄弟”石守信自副都指挥使升为都指挥使，成为侍卫亲军司正长官。
不久，宋太祖收兵权的范围扩大到自己的亲信。961年七月，宋太祖设宴招待石守信、王审琦等高级将领。酒酣之时，赵匡胤却闷闷不乐起来。石守信等人忙问原因，太祖支开左右，说：“若非你等出力相助，我怎能有今日？你们的功德，我铭记于心。只是今日做了天子，却常常难以入眠，还不如做个节度使快乐。”石守信等人纳闷，忙问为何。太祖答道：“其中缘由极易知晓，做天子如此风光，天下谁人不想？”石守信等人听到皇帝话中有话，顿觉气氛不对，均表示如今天命有归，无人敢怀有异心。不料，太祖却说：“纵使诸位无异心，若你们的部下贪图富贵，将黄袍披在你们身上，那也由不得你们了。”此言一出，石守信等人都冒出一身冷汗，皇帝分明是怀疑他们有夺位之心。他们都知道臣子一旦被猜忌，后果很严重，便请太祖指点明路。太祖见时机成熟，直截了当地说：“人生如白驹之过隙，所谓好富贵者，不过欲多积金银，厚自娱乐，使子孙无贫乏罢了。你们何不释去兵权，购买良田，为子孙立永久之业。又多置歌儿舞女，饮酒作乐，颐养天年？如此，我们君臣间毫无猜嫌，上下相安，岂不为好？”石守信等人跟随太祖多年，深知他说这番话是经过深思熟虑的。第二天，禁军将领纷纷上书，称自己有病在身，请求解除兵权。
于是，石守信移为天平军节度使，治郓州，虽仍兼侍卫都指挥使，但兵权已无，而且离京到节镇居住。高怀德免殿前副都点检，移为归德军节度使，治宋州，以后，殿前副都点检也不再设置，殿前司的地位也因而降低，以都指挥使为正长官。殿前都指挥使王审琦，出为忠正军节度使，治寿州。被夺兵权的还有侍卫亲军司的次长官都虞候张令铎，出为镇宁军节度使，治澶州。次年，石守信又被免去了侍卫司都指挥使军职。从此，侍卫亲军司的正、副长官不再同时并设，甚至缺而不设，侍卫亲军司逐渐以下属的马、步二司为直属机构，地位大为下降。从此，将帅兵变的可能性不复存在。
