雖僥幸得脫，經雁門一役，隋煬帝顏麵掃地，也無力阻止國內起彼伏的起義，各方的反隋動進一步擴，除早已聲威大振的瓦崗軍外，黃河以也出現了諸多反隋割政權。因為鄰近突厥，這些割勢力紛紛找突厥人作靠山，東突厥汗國儼然各勢力的主。其中上穀人王須拔自稱漫天王，國號燕，其手下大將魏刀兒起了一個炫酷屌炸天的外號叫“曆山飛”，兩人率領十餘萬人，動於隋突邊境一帶，聲勢浩大。雖在隋朝的擊下，王須拔敗亡入突厥，“曆山飛”戰死，仍留下部將甄翟兒繼統其眾，繼續揚起塵煙。各起義搞得焦頭爛額的隋煬帝幹脆破罐子破摔，帶領妃嬪大臣們沿著那條澤後，在當時卻是罪惡征的大運河一下，到江都（今江蘇揚州市）避享樂去了，留下表哥李淵作太原留守，其對付突厥人和黃河以各叛軍。方的局勢越發不可拾了，在突厥人的支持和庇護下，各豪紛紛裂土稱孤。617年2月，朔方（舊址在今陝靖邊和內蒙古烏審旗界處的統萬古城）軍官梁師都殺上司謀反，自稱大丞相，東突厥稱藩。始畢可汗贈其狼頭纛，按照突厥人的官製封他為大度毗伽可汗。梁師都於是引突厥人入關，攻破鹽川郡（今陝定邊）。同月，馬邑（今山朔州市）校尉（約相當於如今的軍分區司令）劉武周殺掉太守王仁恭謀反，也投靠突厥，在突厥人的幫助下大破隋軍，繼而乘著餘威，連續攻雁門、樓煩（今山靜樂）等郡，進而攻破隋煬帝的行宮汾陽宮，擄獲大批宮女獻給始畢可汗。始畢可汗大喜，不僅贈大批優良戰馬，還參照梁師都的規，立劉武周為定楊可汗。外，薛舉、郭子和、竇德、羅藝等各反隋自立政權都紛紛依附東突厥，連遠在洛陽的王充也麵稱臣，各反王分了可汗、設、勤等不同級的突厥爵封號。東突厥“遂大盛，勢淩中夏”，自木杆可汗以來，突厥人一讓自己的統影響至黃河以。
由於平叛無功，隋朝方麵的太原留守李淵到朝廷問責，按罪應囚江都，是因為一時難補其闕，蒙給其以帶罪留自贖。隋朝另派大員王威、高君雅駐太原，為協防，實則監軍，這使得李淵漸生異心。617年5月，突厥兵臨太原，李淵無力與之開對陣，好演了一場空城計，下令四門洞開。突厥疑之有伏，迅退兵。城雖幸存，作為疑兵佯擊突厥人的隋軍卻幾乎全軍覆沒，逃歸僅一二人。這王威等人抓住把柄，密報朝廷。眼見自己況危，李淵遂下手為，與兒子李民，以官員裴寂、劉文靜等人合謀，以私突厥，謀陷太原的罪加之王威、高君雅二人，斬之祭旗，正起兵反隋。這時中原紛擾，瓦崗軍正和王充鏖戰洛陽，李淵決定用這一時機，進軍長，奪關中。為穩定後方，李淵忍辱負重，遣使突厥，卑詞厚幣，與之“屈節連和”，書稱“啟”（這是下級上級彙報函的專稱），約以“征伐所得，皆可汗有之，坐寶玩，不勞兵馬”。得屈膝盟諾，始畢可汗也派出使臣“送馬千匹來太原互市”。李淵對突厥使節“愈加敬畏，不失藩臣之禮”，遣重臣劉文靜賚大批金帛還聘突厥牙庭，進一步重申，“願與可汗兵馬同入京師，人眾土地入唐，財帛金寶入突厥”。在得到東突厥將給予堅實援助的承諾後，李淵揮師，攻下臨汾（今山臨汾市）、絳郡（今山新絳）後，在黃河邊上的韓城（今陝韓城）遇到隋軍的猛烈抵抗。就在戰事僵持不下時，劉文靜帶來突厥援軍，“遂下韓城”。順渡過黃河，李淵軍乃長驅進，一馬平川，於這年的11月攻占長。李淵立了煬帝的孫子楊侑為傀儡皇帝，而自總揆，掌握實權，從而實現了爭奪天下的一步戰略目標。