隋煬帝被殺，隋朝滅亡。李淵便不再需要隋恭帝這個傀儡了，於是，武德元年（618），首先逼隋恭帝禪位，然後李淵即皇位於太極殿，國號唐，改元武德，大赦天下，都長安。六月，他令李世民為尚書令，相國府長史裴寂為尚書仆射，相國府司馬劉文靜為納言，隋民部尚書蕭瑀、相國府司錄竇威為內史令。不久，又立李建成為皇太子，李世民為秦王，李元吉為齊王。以李淵為首的李氏王朝得以建立起來。
李淵稱帝長安時，群雄未靖，許多隋將割據稱雄，農民起義軍亦稱霸一方，全國處在四分五裂狀態。具有政治野心的李淵，不願偏安關中一隅之地，便儲糧積粟、厲兵秣馬，俟軍實充足，即剿撫兼施，開始了統一全國的戰爭。
李淵的統一行動，首先指向對關中構成威脅的薛舉、薛仁杲父子。薛舉是隋金城郡（治今甘肅蘭州）的富豪，家產钜萬，雄於邊朔。大業十三年（617）四月，驅逐隋官，自稱西秦霸王，年號秦興。不久稱帝，遷都天水（今屬甘肅），封兒子仁杲為齊公，據隴西全境，眾至13萬，成為西北地區的一股大勢力。薛舉起兵反隋，意在奪取關中。李淵先薛舉父子攻占長安，薛舉父子便以1O萬兵力進逼關中，對李淵構成嚴重威脅。李淵派次子李世民率軍出擊，薛軍敗歸，武德元年（618）五月，李淵長安稱帝時，薛舉又率精騎攻擾，關中大亂。唐軍則恃兵多將廣，有怠敵之意，結果在高土庶（今陝西長武縣北）之役中，敗於薛軍。消息傳到長安，京師騷動，人心惶惶。薛舉得勝後，則趾高氣揚，欲乘勝直取長安。就在這時，薛舉病死，其子薛仁杲繼位。李淵命秦王李世民為元帥，再次率軍討伐，在高土庶城外大破薛仁杲軍，薛仁杲被迫投降。隴西並入唐境。
與此同時，涼王李軌自稱天子，年號安樂，由安修仁掌握樞密。據張掖、敦煌等河西五郡之地。李淵密遣安修仁兄安興貴入涼，當上了左右衛大將軍。武德二年（619），安興貴與弟安修仁擒李軌，傾覆了李軌的政權，涼亡，河西五郡並入唐境。
李淵的勁敵除薛舉、李軌外，還有劉武周。劉武周原是馬邑鷹楊府校尉。大業十三年（617），聚兵萬餘人，自稱太守，依附突厥，攻占樓煩（山西靜樂縣）、雁門、定襄（內蒙古清河縣境）等郡，受封為定楊可汗，不久自稱皇帝，年號天興。武德十二年（619），勾結突厥，南侵並州（治晉陽），唐並州總管、齊王李元吉抵擋不住，太原危急。接著，劉武周攻陷平遙、介州，李淵派右仆射裴寂督軍抗擊，被劉軍打敗，幾乎全軍覆沒。劉武周乘勝進逼太原，李元吉棄太原逃歸長安，關中震駭。李淵準備放棄黃河以東的地區，退保關中。在這緊要關頭，李世民主張，太原是我們起兵的地方，決不能放棄，並請求率軍討伐劉武周。李淵遂命李世民率兵自龍門（陝西韓城縣境）渡河，進擊劉武周。唐軍渡河後，休兵秣馬，堅壁不戰，待敵軍糧草不給，氣勢衰落，一鼓作氣，速戰速決，劉武周全軍潰敗，部將尉遲敬德投降。劉武周勢窮，率殘部北遁突厥，後被突厥殺死。並州歸入唐的版圖。
薛舉、李軌、劉武周被消滅後，關中形勢得以穩定。李淵便集中力量爭取中原。
李淵爭奪中原的勁敵是王世充。王世充本是隋江都通守，煬帝被殺後，他在東都立楊侗為帝，不久，擊敗瓦崗軍，瓦崗軍首領李密投降唐朝，其餘將帥多歸附王世充。武德二年（619），王世充廢掉楊侗，自稱皇帝，年號開明，國號鄭，占據洛陽，成為河南最大的割據勢力。武德三年（62O）七月，李淵派李世民率軍直驅河南，攻打洛陽。王世充所屬河南州縣，相繼降唐，王世充困坐洛陽，遣使向竇建德求援。竇建德欲與王世充合力敗唐，然後再尋機消滅王世充，因而接受了王世充的請求，引兵1O萬進軍成皋（河南滎陽縣汜水鎮）。李世民率唐軍搶占武勞重鎮，阻擊竇建德。竇建德布長陣2O裏，鼓噪前逼唐陣。唐軍堅守不戰，以逸待勞。竇建德軍糧草供應不暢士卒饑疲，唐軍乘機出擊，竇建德抵擋不住，敗退3O裏，最後受傷被俘。王世充見大勢已去，率群臣2OOO餘人降唐，河北諸縣也相繼歸唐，李淵的勢力基本上控製了黃河流域。
與此同時，李淵還派李靖至夔州（今四川奉節縣），進攻占據長江中遊地區的蕭銑。蕭銑於武德元年（618）在巴陵稱帝，不久遷都江陵，出兵攻奪唐巴、蜀地，有兵4O萬。武德四年（621），唐將李靖、李孝恭圍江陵，蕭銑外無援兵，隻好投降唐朝，長江中下遊地區亦為唐所有。
李淵兼並了割地稱雄的一些隋朝貴族後，又把矛頭指向在滅亡隋朝中起了重要作用的農民起義軍。竇建德被俘後為李淵殺害，其部將於武德四年（621）推劉黑闥為主，在漳南（今山東德州一帶）起兵反唐。劉黑闥勇決善戰，各地的竇建德殘部又聞風而起，不到半年時間，劉黑闥就完全恢複了竇建德故地。
李淵命李世民、李元吉率軍東征劉黑闥。劉黑闥率步騎2萬人迎戰，從午間殺到黃昏，未分勝負。不料，唐軍在洛水上遊築壩截水，看到難以取勝，就決水灌敵，劉黑闥兵敗，逃奔突厥。二個月後，劉黑闥又卷土重來，重新恢複故地。武德五年（622），在氵名州（今河北永年）自稱漢東王。齊王李元吉前往討伐，被劉黑闥打敗。李淵又派皇太子李建成親征，建成采納魏征的建議，實行安撫政策，爭取民心，以瓦解劉黑闥的部隊。武德六年（623），劉黑闥終於兵敗被殺。唐控製了河北、山東地區。
占據江淮地區的杜伏威於大業十三年進據曆陽（今安徽和縣），自稱總管，進用“士人”。武德元年（618），移居丹陽，上表隋越王楊侗，被任為東南道大總管，封楚王。唐軍圍攻洛陽，使人招降杜伏威，杜伏威降唐，被封為吳王，任江、淮以南安撫大使。劉黑闥兵敗被殺後，杜伏威使部將輔公礻石留守丹陽，自請入朝，被留在長安。武德六年（623）秋，輔公礻石率領江淮義軍在丹陽反唐，自稱宋帝，唐借故殺杜伏威。李淵又派大將軍李孝恭、李靖、李世責力等分路進攻，武德七年（624），輔公礻石率軍自丹陽出走，被地主武裝捕獲，送唐營處斬，江南、淮南從此也成為唐朝的轄區。
李淵統一全國過程中，最後消滅的是梁師都。梁師都於隋大業十三年（617）在朔方起兵反隋，攻占雕陽、弘化，延安等郡，自稱皇帝，國號梁，年號永隆，依附突厥貴族，受封為“解事天子”，唐貞觀二年（628）為唐軍消滅。至此，李淵父子兼並了地主割據勢力，又打敗了農民起義軍，奪取了農民起義軍的勝利果實，統一了全國。
創立製度修明政治
李淵稱帝後，百廢待舉，他一麵組織力量進行統一全國的戰爭，一麵注意加強政權建設，唐朝前期的政治、經濟、軍事製度，在李淵時期基本上初具規模。
建立各級統治機構。李淵建唐伊始，一切政權組織皆因隋製，直到武德七年（624）才為適應全國統一後的曆史形勢，根據前代製度，確定了唐代的政權組織係統。
在中央實行三省六部製。三省即中書省、門下省、尚書省。中書省的長官是中書令，僚屬有中書侍郎、中書舍人等，是決策機關，負責草擬有關軍國大事的詔敕。門下省的長官是侍中，僚屬有黃門侍郎、給事中等，是審議機關，主管審核中書省的決定，並有權駁回。尚書省的長官是尚書令（太宗時廢尚書令，另設左右仆射），僚屬有左右丞、左右司郎中等，是執行機關，負責執行中書、門下二省的決定。三省的長官都是宰相，他們共同商討國家大事，共同對皇帝負責。六部即吏、戶、禮、兵、刑、工六部。吏部主掌官吏的考核與升降，戶部主掌戶籍及賦稅，禮部主掌禮儀及科舉，兵部主掌軍事，刑部主掌刑法訴訟，工部主掌土木工程。各部長官都稱尚書，直屬於尚書省，每部又領四司，計24司，分別執行中書、門下二省製訂的政令。
唐代的監察機關為禦史台，長官是禦史大夫，負責糾察百官，權力極大。
唐代的地方統治機構，基本上是州縣兩級製，州設刺史，縣設縣令。刺史每年一巡屬縣，考課官吏，訪詢治安，催督賦役，保舉人才。縣令主一縣之事，縣以下有鄉，鄉以下有裏，裏是最基層的政權單位，置裏正一人，轄百戶左右，其職責是檢查戶口、勸課農桑、檢查非違、催驅賦役，對人民進行直接統治，是唐朝皇帝的忠實奴才和統治人民的得力工具。