“杯酒釋兵權”。一次趙匡胤問趙普：“自從唐亡以來，幾十年間，帝王換了八姓，戰爭不止，生靈塗炭，是什麼緣故呢？我想替天下息兵，為國家作長久之計，應當怎辦？”趙普答道：“沒有別的，隻是因為方鎮太重，君弱臣強罷了。要變也不難，隻要稍奪他們的權力，管製他們的錢穀，收了他們的精兵，天下自然安定了。”此計立即為趙匡胤所采納。建隆二年（961）秋，宋太祖預備下豐盛的酒肴，約請石守信等幾位將領赴宴，席間他對諸將說：“不是你們出力，我沒有今天。不過做天子也不容易，還不如節度使快樂，現在我沒有一夜睡安穩過。”諸將忙問原由，宋太祖說：“誰不想富貴呢？一旦有一天你們的部下把黃袍加在你們的身上，難道容許你們不做皇帝嗎？”諸將立即叩頭請計，宋太祖便乘機勸他們交出兵權，同時賜給他們良田美宅以安度餘生，這便是所謂“杯酒釋兵權”。此後，宋太祖又將那些足以威脅皇權存在的耆舊宿將們的兵權逐一收回，集中於皇帝。
收回地方權力。宋太祖於乾德元年（963）開始，選派文官外出，代替軍人掌握州郡行政，稱為“權知軍州事”，簡稱為知州，三年為一任期，期滿另調他職。知州之外，另設通判（大郡設兩人），也由中央政府選派，他有權過問州中行政，直接對中央負責，又稱監州。州中命令，需知州和通判共同署名，否則無效。二者相互製約，誰也無法獨攬政權。乾德三年，宋太祖又在各道設置轉運使，掌管財政，同時監督地方官吏，從而將地方的財政權也收歸中央。
分割相權。宋初以同中書門下平章事為宰相，為了防止宰相權力過大，宋太祖特設參知政事作為副貳，又以樞密使分取宰相的軍政大權，以三司使分取宰相的財政大權，同時樞密使和三司使也設副使，以削弱正使的權力。這樣，原本事無不統的宰相，隻剩下不大的行政權力，皇帝便可以總攬大權，操縱自如了。
宋太祖采取以上改革措施，在製度上防止了分裂割據的重演。
開寶九年（976），宋太祖臥病在床，他的弟弟趙光義前來探望，有人從窗外看見燭影下二人交手的動作，又聽到揮動斧頭的聲音。第二天早晨便宣布宋太祖已經去世，趙光義繼承兄位做皇帝，這便是曆史上所說的“燭影斧聲”。盡管“燭影斧聲”並不能完全證明是趙光義殺掉了他的哥哥，但是從宋太祖當時年僅50歲，無論從身體狀況上看，還是從醫療條件上看，宋太祖都還未到死亡之時，再加上宋太祖去世時，大兒子已經25歲，小兒子也已17歲，都未能繼承皇位，幾年之後，他們紛紛被迫自殺，由此似乎也能推斷出正是趙光義害死了宋太祖。宋太祖趙匡胤雖然防止了地方勢力的割據和將領們的跋扈，但他卻沒有能夠防止皇族內部的篡奪，以至於莫名其妙地死去。