建隆二年七月初九日晚朝時，宋太祖把石守信、高懷德等禁軍高級將領留下來喝酒，當酒興正濃的時候，宋太祖突然屏退侍從歎了一口氣，給他們講了一番自己的苦衷，說：“我若不是靠你們出力，是到不了這個地位的，為此我從內心念及你們的功德。但做皇帝也太艱難了，還不如做節度使快樂，我整個夜晚都不敢安枕而臥啊！”石守信等人驚駭地忙問其故，宋太祖繼續說“這不難知道，我這個皇帝位誰不想要呢”？石守信等人聽了知道這話中有話，連忙叩頭說：“陛下何出此言，現在天命已定，誰還敢有異心呢”？宋太祖說：“不然，你們雖然無異心，然而你們部下想要富貴，一旦把黃袍加在你的身上，你即使不想當皇帝，到時也身不由己了。”一席話，軟中帶硬，使這些將領知道已經受到猜疑，弄不好還會引來殺身之鍋，一時都驚恐地哭了起來，懇請宋太祖給他們指明一條“可生之途”。宋太祖緩緩說道：“人生在世，像白駒過隙那樣短促，所以要得到富貴的人，不過是想多聚金錢，多多娛樂，使子孫後代免於貧乏而已。你們不如釋去兵權，到地方去，多置良田美宅，為子孫立永遠不可動的產業。同時多買些歌兒舞女，日夜飲酒相歡，以終天年，朕同你們再結為婚姻，君臣之間，兩無猜疑，上下相安，這樣不是很好嗎”！石守信等人見宋太祖已把話講得很明白，再無回旋餘地，當時宋太祖已牢牢控製著中央禁軍，幾個將領別無他法，隻得俯首聽命，表示感謝太祖恩德。
第二天，石守信、高懷德、王審琦、張令鐸、趙彥徽等上表聲稱自己有病，紛紛要求解除兵權，宋太祖欣然同意，讓他們罷去禁軍職務，到地方任節度使，並廢除了殿前都點檢和侍衛親軍馬步軍都指揮司。禁軍分別由殿前都指揮司、侍衛馬軍都指揮司和侍衛步軍都指揮司，即所謂三衙統領。在解除石守信等宿將的兵權後，太祖另選一些資曆淺，個人威望不高，容易控製的人擔任禁軍將領。禁軍領兵權析而為三，以名位較低的將領掌握三衙，這就意味著皇權對軍隊控製的加強，以後宋太祖還兌現了與禁軍高級將領聯姻的諾言，把守寡的妹妹嫁給高懷德，後來又把女兒嫁給石守信和王審琦的兒子。張令鐸的女兒則嫁給太祖三弟趙光美。這就是曆史上著名的“杯酒釋兵權”。
杯酒釋兵權隻是宋太祖為加強皇權，鞏固統治所采取的一係列政治軍事改革措施的開始。其後在軍事製度方麵的改革主要有三項。
第一，建立不同於前朝的樞密院製度，長官為樞密使和樞密副使，主管調動全國軍隊，分掌軍政大權。樞密院與三衙統領各有所司。三衙雖然掌握禁軍，但卻無調兵和發兵的權力。樞密院有發兵、調兵之權，而不能直接掌握軍隊。調兵權與領兵權分離，各自獨立，相互製約，有利於皇權的控製。
第二，內外相維政策。宋太祖把全部軍隊分為兩半，一半屯駐在京城，一半戍守各地，使京城駐軍足以製止外地可能發生的變亂，也使外地駐軍合起來足以製止京城駐軍可能發生了內變。內外軍隊互相製約，都不能發生變亂，而京城駐軍又多於外地任何一個地方，這樣皇帝也就可以保證牢牢控製全國的軍隊了。
第三，兵將分離政策。無論駐屯京城的禁軍，還是駐在外地的禁軍都必須定期調動。京城駐軍要輪流到外地或邊境戍守，有的則要到產糧的地方就糧，這種輪流駐防的辦法稱為“更戍法”。這種方法名義上是鍛煉士兵吃苦耐勞，實際上是借著士兵的經常換防，造成兵不識將，將不識兵，兵無常帥，帥無常師。將官再也不能同士兵結合，在士兵中建立自己的聲望，也就再也不能率兵同朝廷皇帝對抗了。
對地方藩鎮采取的措施主要有三項：
第一，削奪其權。為削弱節度使的行政權力，把節度使駐地以外兼領的州郡——支郡直屬京師。同時由中央派遣文官出任知州、知縣等地方官。3年一更換，直接對中央負責，向朝廷奏事，不再聽令於節度使。對於一些五代以來一直盤踞一方的節度使，宋太祖又故伎重演，拿出“杯酒釋兵權”的辦法將其逐一罷免。後來又設置通判以分知州之權，利用通判與知州之間的相互製約，使一州之權不致為知州把持，防止偏離中央政府的統治軌道。
第二，製其錢穀。宋初於各路設置轉運使，將一路所屬州縣財賦，除留少量應付日常經費外，其餘的錢帛都要送到京城上交中央政府，不得占留，這樣地方的財權就完全收歸中央了。
第三，收其精兵。乾德三年（965年）八月，宋太祖下令各州長官把藩鎮所轄軍隊中驍勇的人，都選送到京城補入禁軍。又選強壯的士卒定為“兵樣”送到各路。召募符合“兵樣”標準的人加以訓練，然後送到京城當禁軍。這樣中央禁軍集中了全國精兵，而地方軍隊隻剩下一些老弱病殘，編成廂軍，隻供雜役，地方再也沒有軍事力量可以同中央抗衡了。
通過這些措施，唐末五代的那種專製一方的藩鎮，在宋初就逐漸消失了。
在官僚製度方麵，側重削弱宰相權力。軍政大權歸樞密院掌握，而財政大權則由三司使掌握，宰相所掌僅限於民政了。在軍、財、民三權分立中，樞密使與宰相“對掌大政”號為二府。皇帝利用這兩者間的異同發號施令，獨斷專行。宋初不僅以三權分立的辦法削弱相權，而且設置參知政事、樞密副使和三司副使，作為宰相、樞密使和三司使的副手，與各部門長官發生製約的作用，以削弱各部門長官的權力。此外，宋初還在設官分職、科舉製度等方麵，也進行了有利於加強皇權的政策。