宋太祖即位不久，便面临两个节度使的起兵反抗。经过艰苦的征战，宋太祖终于平定了叛乱，但这次经历让他心里始终不踏实。一天，他独自与赵普谈话，询问自唐末至今五个朝代不断战争的原因。赵普分析说，国家混乱之所以如此，是因为藩镇权力过大，如果将兵权集中到中央，那么天下便能安定无事。

赵普还提醒宋太祖注意禁军中的石守信和王审琦，他们持有过多兵权，也许会成为隐患。宋太祖虽然信任他们，但也听从了赵普的建议。在一次宴会上，宋太祖以杯酒释放他们手中的兵权，并劝说他们退居家乡，这一事件被后人称为“杯酒释兵权”。

随后，又有一些节度使来京朝见，宋太祖在御花园宴请并表达愿意解除其职务，让他们告老回乡。但也有个别人自夸自己的功绩，被宋太祖所不悦。他决定收回地方将领的手中所有兵权，并建立新的军事制度，将精锐部队编入禁军直接由皇帝控制，同时委派中央官员管理地方行政。这一系列措施稳定了新生的北宋政局。