宋太祖趙匡胤即位不到半年，就有兩個節度使起兵反對朝廷，雖然被他親自率兵平定了，但所耗的人力物力頗大，國家仍處於動蕩之中。為此，他終日憂心忡忡。
有一天，他單獨找謀士商量此事。謀士說：“國家混亂，政權不穩，在於藩鎮權力太大。如果把兵權集中到朝廷，天下自然太平無事。”過了幾天，宋太祖在宮中舉行酒會，特意請了幾位老將。酒過數巡，宋太祖站起來說：“不瞞各位，我食不甘味，夜不安寢，主要原因是有人暗懷鬼胎，時時趁機篡奪皇位。”幾位老將慌忙跪道：“目前天下太平，誰敢對陛下心生歹念？”宋太祖嚴肅地說：“對你們幾位我自然放心，隻怕你們的部下，為貪圖富貴，硬把黃袍加在你們身上，你們想不幹行嗎？”聽了皇帝的言語，幾位大將含淚懇求皇帝指引出路。宋太祖接著說：“現在你們辭去軍職，到地方當個閑官，豈不達到目的？還能消除君臣的猜疑。”第二天上朝，參加酒會的大將都遞上了辭呈。宋太祖一一照準，收回了他們的兵權，還假惺惺地賞了各人一份厚禮。過了幾年，宋太祖又施同樣手段，用舉杯痛飲的方式，罷免了一些地方節度使。
這就是著名的“杯酒釋兵權”的典故。