高平之戰後，周世宗立即嚴肅軍紀，將逃跑的大將樊愛能、何徽嚴厲處罰，擢升趙匡胤為殿前都虞侯，並委以整頓禁軍的重任。在趙匡胤的主持下，後周禁軍完成了汰除老弱、調選精壯和組建殿前司諸軍三項工作。趙匡胤利用主持整頓的機會，發展自己的勢力，將心腹羅彥環、郭延斌、田重進，潘莢，米信、張瓊、王彥升等人安插到殿前司諸軍各重要部門，同時又主動與其它中高級將領交結，並同石守信、王審琦、韓重斌、李繼勳、劉慶義、劉守忠、劉廷讓、王政忠，楊光義等高級將領結拜為義社十兄弟，趙匡胤逐漸擁有了自己的勢力。之後，伴隨著後周世宗不斷地南征北戰，趙匡胤因功逐漸升遷，被提升為忠武軍節度使兼殿前都指揮使。此後，趙匡胤不但交結武將，也與趙普、王仁瞻、楚昭輔、李處耘等文人來往，井羅致到麾下，成為心腹幕僚。
公元959年春，趙匡胤平生最怕的後周宰相王樸突發腦溢血而死，幾個月後，周世宗也因病去世，其7歲的兒子柴宗訓即位。為防止兵變，趙匡胤又被提升為殿前都點檢，掌握了後周軍權。此時的趙匡胤更有理由和實力篡位稱帝，因此趙匡胤加緊活動，將自己的心腹一一擢升為殿前副都點檢、殿前都虞侯等職務。整個殿前司係統的所有高級將領的職務均由趙匡胤的人擔任了，隻剩下並不是趙匡胤勢力圈子內的副都指揮使韓通，但他勢孤力單，自然無法同趙匡胤相抗衡。趙匡胤現在是萬事俱備，隻欠東風。這個東風便是趙匡胤奉命出征。
公元960年的農曆正月初一，後周君臣正在朝賀新年，趙匡胤指使人謊報軍情，說是契丹與北漢聯合入侵後周。契丹出兵鎮(河北正定)、定(河北定州)二州，北漢兵自土門(河北獲鹿西南井陛口)東下。小皇帝柴宗訓征求了宰相範質、王博的同意，宰相範質、王溥真假不辨，立即令趙匡胤率領禁軍前往迎敵。
正月初二，趙匡胤率兵來到離開封幾十裏的陳橋驛。剛安頓好，便有趙匡胤的親信在營中煽動說：天邊有兩個大陽，正在搏鬥，一日克一日，這是天命。士兵們一傳十，十傳百，很快軍中都知道“一日克一日”這件事了。
當晚酒後，趙匡胤假裝酒醉臥床睡覺。趙匡義、趙普與將領們商議兵變。將領們讚同“立點檢為天子”。趙普以“長保富貴”為由，要將領們聽從指揮，並派人馳告殿前都指揮使石守信、殿前都虞侯王審琦等。第二天清晨，趙普、趙匡義率諸將至趙匡胤臥室，隻見將校們手握刀劍，擠在院子裏，齊聲高喊“諸軍無主，願策太尉(對高級軍事長官的尊稱)為天子。”趙匡胤未來得及回答，一件象征著天子黃袍的黃色上衣就披在了他身上，眾將校統統跪拜，高呼“萬歲”。趙匡胤假意推拒後，宣布：“若要當皇帝，就必須聽從我的命令，並不得縱兵大掠，對周帝及皇族加以保護。”眾將表示願“惟命是從”後，隨之火速回師開封，在早已等候在京城的石守信等人的配合下入城。入城後，未遇到後周文武臣僚抵抗，僅武將韓通抗拒兵變，為王彥升所殺。趙匡胤派潘美去通知範質、王溥。範、王得知兵變後，後悔莫及，被迫承認趙匡胤代周自主。事已至此，柴宗訓也無計可施，隻得召集百官，宣讀了別人替他準備好的“禪位製書”、“應天順人”地將帝位讓給了趙匡胤。後周滅亡。當日，趙匡胤登位於崇元殿，受臣僚拜賀。後周恭帝降為鄭王，遷居西京(河南洛陽)。次日，宋大祖趙匡胤頒定國號為宋，宋朝正式建立，趙匡胤即宋太祖。
趙匡胤的捷足先登，隻不過使後周舊臣失去了一次實現野心的機會，卻沒有打消他們的野心，他們有的在等待觀望，希冀再起，有的則準備起兵，公開與新王朝決裂。麵對這種局勢，趙匡胤以靜製動，采取以穩定京城、籠絡後周舊臣為主的方針，並根據這一方針，對後周舊臣實行了官位依舊，全部錄用的政策，甚至連宰相也仍由王溥、範質、魏仁浦三位舊相繼任。為了保證對後周舊臣籠絡和收買的成功，對於那些恃勢欺淩舊臣的新貴們，趙匡胤則毫不留情地嚴加處理。當年兵變入城時的先鋒王彥升，自恃擁立有功，橫行不法，曾敲宰相王溥的門以嚇王溥，結果王彥升被貶為唐州刺史。但後周舊臣還是有人不滿趙匡胤的登基，起兵作亂。公元960年春，昭義軍節度使李筠舉兵反宋，北漢又出兵南下，聲援李筠，在揚州的周大祖外甥李重進也準備起兵響應，一時聲勢浩大。麵對這種局麵，趙匡胤首先拉攏隻是求富貴的李重進，賜他“鐵券”，以示永保富貴，誓不相負。然後以趙光義及趙普、吳延柞留守東京，趙匡胤本人親征李筠。在身為皇帝的趙匡胤身先士卒的精神鼓舞下，士兵們自然是人人爭先，奮勇殺敵，很快大敗李筠，將北漢軍隊趕走，李筠走投無路，自焚而死。隨後趙匡胤又掉頭南下，征服了揚州李重進，宋初的“二李之亂”得以平息，趙匡胤與後周舊臣之間的矛盾也基本上得到解決。
解決了與後周舊臣的矛盾後，趙匡胤又掉過頭來，將矛頭對準擁立有功，且手握重兵的大將們。趙匡胤深知，五代時期之所以會出現那種朝代更替，不暇稍息的現象，與其說是因為皇帝大弱，不如說是因為臣屬太強。特別是那些領兵大帥，依仗手中的兵權，篡位弑主，易於反掌，是威脅皇權的最大勢力。為了確保統治的穩固，趙匡胤決心采取更為積極的措施，收奪禁軍將帥的兵權。有一次，趙匡胤把趙普找來，單獨談話。開口就問他：“自唐末以來，五代更迭，征戰不斷，不知道死了多少老百姓。為什麼會發生這樣的情況？”趙普說：“道理很簡單。國家混亂，毛病就出在藩鎮權力太大。如果把兵權集中到朝廷，天下自然太平。禁軍大將石守信、王審琦兩人，兵權太大，還是把他們調離禁軍為好。”趙匡胤說：“你放心，這兩人是我的老朋友，不會反對我。”趙普說：“我並不擔心他們叛變。但是下麵的將士如果鬧起來，隻怕他們也身不由己啊！”趙匡胤一拍大腿說道：“幸虧你的提醒。”