獨製天下
解決了兵權這個最棘手的難題，接下來要解決的是從中央到地方政府的體製問題。宋太祖為了讓趙家王朝永延國祚，他精心構建了一個龐大而又複雜的官僚體係，層層疊加的政府部門、強幹弱枝的軍政製度與文人出身的官吏是這個體係的幾大特色。然而在宋太祖看來，即使將地方權力集中到朝廷，也並沒有真正解決中唐五代以來“君弱臣強”的問題，因而需要進一步牽製和削弱文武百官的權力，使由地方集中到朝廷的權力，最後完全集中到自己手中，以達到趙氏皇帝“總攬威柄”“獨製天下”的目的。
自秦朝以後，中國實行的是中央集權製度。從理論上說，皇帝應該對一切國家事務擁有決定權，但由於受個人能力和精力的限製，實際上這是辦不到的。因此，皇帝必須依賴官僚群體的力量實行其統治。主要方法就是在他周圍設置一些決策和執行的機構，以分擔他的權力和各種事務。這些機構就成為“中樞權力圈”，其中特別重要的就是宰相及其所管理的政府機構。
宰相作為百官之長、群僚之首，以“一人之下，萬人之上”的地位，輔佐皇帝處理絕大部分日常事務。按照中國曆史上傳統的說法，理想的政治格局就是所謂的“聖君賢相”。“聖君”善於擇相，“賢相”竭誠事君；“聖君”垂拱而治，“賢相”負責處理一切政務。由此，天子不妨世襲，宰相永遠傳賢；皇位傳子可以保證政權的穩定，宰相求賢則可保證國家大治；兩者永遠和衷共濟，相輔相成。但是，很可惜，這隻能是儒家學者的一種理想和期待，而曆史的事實卻與之相去甚遠。自中國有君相之分後，雙方的齟齬和較量就從未間斷過，隻不過是衝突的緩激程度不同而已。商朝有伊尹放太甲，周代有成王疑周公，到君主專製時代，皇權與相權的鬥爭就更不勝枚舉了。
因此，如何來限製相權，成為帝王權術中最重要的內容之一，幾乎貫穿於中國古代的全部政治史。這樣，百官之中權力最重的宰相，就成為宋太祖首先開刀的“對象”。
取代後周以後，宋太祖以範質為侍中，稱為昭文相；以王溥為司空，稱為史館相；以魏仁浦為右仆射，稱為集賢相。三位宰相並設，而不置副宰相。這幾個人都是五代的舊臣，早在後周就進入朝廷的權力中樞，範質更是後周世宗柴榮的托孤重臣。宋太祖對他們忌諱甚深，之所以使他們出任要職，無非是為了籠絡人心、鞏固統治，並趁機將其由要害部門調出而已。後來宋太祖的心腹趙普取代了範質、王溥，開始主持掌握軍機的樞密院，實際上，朝廷政務都操縱在宋太祖和趙普等人手中。這一時期，宋朝中央機構的運作並非是一種正常狀態，擔任樞密使的趙普所起到的是宰相的作用，地位比趙普更尊崇的範質等人反而類似副宰相，隻是處理一般政務，隻起輔助作用而已。就算三位宰相的權力已經被巧妙地架空，他們百官之首的身份依舊讓宋太祖覺得不安。按照封建王朝的傳統禮儀，宰相同皇帝商議重大事件時，皇帝必須賜予他們座位，君臣對坐討論政事，這就是三公坐而論道的“坐論之禮”。這種待遇無疑是宰相地位崇高的體現，自然加大了對皇權的威脅。
一天早朝，宋太祖忽然對範質和王溥說：“我眼睛有些昏花了，你們把奏疏送上來。”在範、王二人離開座位時，宮廷侍衛乘機將他們的凳子搬走。這一動作到底意味著什麼，久經官場的宰相們心領神會。從此在朝會的時候，他們便主動將奏折遞交皇帝，不久又上疏要求廢止“坐論之禮”。宋太祖當然接受了這一建議，從此宰相們隻能和尋常官員一樣站立在朝堂之上。