宋太祖即位不久，便面临两个节度使的起兵反抗。经过艰苦的征战，终于平定了叛乱，但这件事让他心里始终不踏实。他私下询问赵普，质疑历经唐末到五代十国时期频繁更迭和战争所带来的巨大牺牲。赵普分析说，国家混乱之源在于藩镇权力过大，如果集中兵权于朝廷，则天下将安定无事。

赵普进一步建议免除禁军大将石守信、王审琦等人的职务，并担忧他们缺乏统帅才华，若未能控制部下，将可能引发新的动荡。宋太祖赞同并敲打额头表示感谢。

几日后，在宫中宴会上，宋太祖邀请石守信等人饮酒，他先自干杯，然后提出皇帝也有难处，不如当节度使自在。石守信等惊讶之余，请问其由来，被告知是出于对他们可能被部下篡夺位置的担忧。在众人的哀求和恳求下，宋太祖提议他们交出兵权，以便退隐田园生活，并与其结为亲家。此举得到了同意，他们第二天各递奏章辞职，而被赏赐重金遣散至地方做节度使，这一事件史称“杯酒释兵权”。

随后，又有节度使来京朝见，有人请求告老回乡，而另一人滔滔不绝地陈述自己的功绩，被宋太祖批评多是陈年往事。不久之后，所有的地方将领的兵权均被收回，并建立了一套新的军事制度，以皇帝直接控制中央禁军，同时委派行政长官至地方。此措施稳固了北宋政局，为新朝提供了良好的开端。