宋太祖赵匡胤即位不到半年，就有两个节度使起兵反对朝廷，虽然被他亲自率兵平定了，但所耗的人力物力颇大，国家仍处于动荡之中。为此，他终日忧心忡忡。
有一天，他单独找谋士商量此事。谋士说：“国家混乱，政权不稳，在于藩镇权力太大。如果把兵权集中到朝廷，天下自然太平无事。”过了几天，宋太祖在宫中举行酒会，特意请了几位老将。酒过数巡，宋太祖站起来说：“不瞒各位，我食不甘味，夜不安寝，主要原因是有人暗怀鬼胎，时时趁机篡夺皇位。”几位老将慌忙跪道：“目前天下太平，谁敢对陛下心生歹念？”宋太祖严肃地说：“对你们几位我自然放心，只怕你们的部下，为贪图富贵，硬把黄袍加在你们身上，你们想不干行吗？”听了皇帝的言语，几位大将含泪恳求皇帝指引出路。宋太祖接着说：“现在你们辞去军职，到地方当个闲官，岂不达到目的？还能消除君臣的猜疑。”第二天上朝，参加酒会的大将都递上了辞呈。宋太祖一一照准，收回了他们的兵权，还假惺惺地赏了各人一份厚礼。过了几年，宋太祖又施同样手段，用举杯痛饮的方式，罢免了一些地方节度使。
这就是著名的“杯酒释兵权”的典故。