大業十二年（616年），隋煬帝在東都，眼見農民大起義的烽火遍地蔓延，惶恐萬狀，便率領後宮，百官逃往江都。隋煬帝南逃，表明了隋朝統治滅亡有日，各地農民起義也因而得到進一步發展，走向高潮。這年冬天，李密由王伯當介紹，往見翟讓，為他出謀劃策，並且奔走於諸部之間，勸說他們聯合統一，共擁翟讓為首。因此，漸得翟讓信任，經常找他商討大事，他趁機建議說：
劉、項皆起布衣為帝王。今主昏於上，民怨於下，銳兵盡於遼東，和親絕於突厥，方乃巡遊揚、越，委棄東都，此亦劉、項奮起之會也。以足下雄才大略，士馬精銳，席卷二京，誅滅暴虐，隋氏不足亡也。
隋朝統治集團內部分配權利的鬥爭一直複雜激烈，值得注意的是，關隴世族製造的圖讖歌謠都抬著李氏，而江南世族則抬著肖氏。農民大起義爆發前，已有“肖肖亦複起”的童謠，梁朝後裔肖琮因此罷官憂死。農民大起義爆發後，為關隴李氏製造輿論的圖讖歌謠更多，於是，元老李穆的子孫被誣謀反，全族誅滅。“八柱國”之後唐公李淵遭到隋煬帝猜疑，惶恐不安。李密入瓦崗軍後，從東都逃出一個名叫李玄英的人到了起義軍中，聲稱要尋找當代替隋朝為天子的李密，他到處傳播說：“比來民間謠歌有《桃李章》曰：‘桃李子，皇後繞揚州，宛轉花園裏，勿浪語，誰道許’？桃李子，謂逃亡者李氏之子也；皇與後，皆君也，宛轉花園裏，謂天子在揚州無還日，將轉於溝壑也；莫浪語、誰道許者，密也。”這樣荒誕的胡謅，在當時卻為人們所相信。瓦崗軍上層人員中的王伯當等人說：“斯人公卿子弟，誌氣若是；今人人皆雲楊氏將滅，李氏將興，吾聞‘王者不死’，斯人再三獲濟，豈非其人乎？”和李密同參加楊玄感起兵的房彥藻也在起義軍中到處遊說。翟讓見李密威望日高，想要讓位，又猶豫不決。於是李密又結識占卜師賈雄，借占卜吉凶，勸說翟讓，說李密之計是“吉不可言”，而且“公自立，恐未必成，若立斯人，事無不濟”。因為“將軍姓翟，翟者澤也，蒲（蒲山公李密）非澤不生，故須將軍也”。翟讓對此說信而不疑，更加親近李密。李密勸翟讓，“先取滎陽，休兵館穀，待士馬肥充，然後與人爭利”。翟讓聽其計，瓦崗軍攻破金堤關，攻下滎陽郡屬縣多處，取得了可靠的糧食供應，站穩了腳跟。
滎陽危急，東都可虞，隋煬帝便調曾在山東血腥鎮壓農民軍的最凶悍的劊子手河南道十二郡討捕黜陟大使張須陀為滎陽通守，率部進攻瓦崗軍。張須陀屢戰皆勝，趾高氣揚，不可一世，以為一舉可滅瓦崗軍。李密利用張須陀驕橫輕敵，便設伏於滎陽大海寺北叢林中，使翟讓迎敵，詐敗引張須陀進入包圍圈中，伏兵盡起，當場擊斃張須陀，其副手賈務本重傷，逃至梁郡，傷發身死。張須陀是靠著瘋狂鎮壓農民軍得到隋煬帝寵愛、褒獎的，張須陀被殲，煞了隋統治集團的威風，“河南郡縣為之喪氣”。瓦崗軍從此順利發展，成為雄踞中原的最強大的農民軍。
大海寺戰役後，翟讓令李密建自成一部，稱“蒲山公營”。李密“部分嚴整，凡號令，士卒雖盛夏，皆如背負霜雪，躬服儉素，所得金寶，悉頒賜麾下，由是人為之用”。
翟讓缺乏雄心遠見，在殲滅張須陀後，想回兵瓦崗，李密力主進取，說降數城，翟讓才改變原意。大業十三年（617年），在李密的策劃和指揮下，瓦崗軍攻取距東都百餘裏的興洛倉（即洛口倉，在今河南鞏縣境內），“開倉，恣民所取，老弱繈負，道路相屬。”隋軍兩路反撲，饑疲交加，大潰敗，“士卒死者仆五六”，輜重器甲為瓦崗軍所得，威聲大振。
於是，翟讓推李密為主，稱之為魏公，“設壇即位，稱元年，大赦，其文書行下，稱行軍元帥府”。魏公府置三司、六衛，元帥府置長史以下官屬。李密任翟讓為上柱國、司徒，稱東郡公，置長史以下官，人員為元帥府之半。
當時，瓦崗軍聲威大振，“趙魏以南，江淮以北”，起義諸部莫不響應，“孟讓、郝孝德、王德仁及濟陰房獻伯、上穀王君廓、長平李士才、淮陽魏六兒、李德謙、譙郡張遷、魏郡李文相、譙郡黑社、白社、濟北張青特、上洛周比等皆歸密”，“道路降者，不絕如流，眾至數十萬”。李密乃築洛口城，方圓40裏，稱洛口官，居於其中。河南郡縣多為瓦崗軍攻取，隋朝官員、門閥世族祖君彥、鄭顴、柴孝和、裴仁基等先後投降李密，這批人裏麵，雖有握有兵權的將領如裴仁基之類，但大多數是河北、山東門閥世族。
楊廣政權處於風雨飄搖之中。大業十三年（617年）四月，李密下令進攻東都，發布檄文曆數楊廣罪行：“罄南山之竹，書罪無窮；決東海之渡，流惡難盡。”號召各地反隋力量聯合行動，打倒楊廣，共建功名。這樣李密就犯了與楊玄感相同的錯誤，須知百足之蟲，尚死而不僵，何況一個政權，再腐朽，再沒落，要推翻它都不可能輕而易舉，必得作艱苦鬥爭，付出相當代價。李密似乎也太輕敵了，當時楊廣雖遠在江都，但東都尚有精兵20餘萬人，而且城防堅固，過早攻堅，與敵決戰，必然將敵人全部精銳招引到自己跟前，在群雄紛起之時，與強敵硬拚，隻是鷸蚌相爭，讓他人坐收漁人之利而已。
形勢發展正是如此，李密進逼東都，楊廣即令江都通守王世充征發大軍前往洛口抵擋。這王世充本西域少數族人，流寓新豐（今陝西臨潼東北），祖父早死，其父收隨母改嫁王氏，因姓王。王收官至汴州（今河南開封市）長史。世充頗讀經史，尤好兵法，開皇時，官至兵部員外郎，大業中，遷江都丞，兼領江都官監。時楊廣多次幸江都，世充善察言觀色，阿諛逢迎，很得楊廣歡心。世充知道隋室將亂，便陰結黨羽，在一些亡命之徒中收買人心，以樹私恩。楊玄感起兵時，朱燮、管崇在江南響應，自稱將軍，有眾十餘萬。隋遣將軍吐萬緒、魚俱羅等征伐，不勝。時世充作為偏將，在江都招募萬餘人，多次打敗朱燮、管崇，每次取勝他必歸功部下，所有繳獲，都分給士卒，因此部眾都樂於為他所用，世充也戰功最多，其後又接連擊敗齊郡（今山東濟南）孟讓等幾支農民起義軍，大業十二年（616年），遷江都通守。楊廣將這樣的大將派來，使李密又不得不麵對一支勁敵。王世充、李密相持洛口，前後百餘戰而未有勝負，戰鬥之激烈不言而喻，後密雖重創世充，但其核心主力猶存，恢複也容易，成為李密有力的競爭對手，與密在東都近郊對峙，使李密欲罷不能，戰而無功。
李密屯兵堅城之下，為太原留守李淵創造了絕好機會。和李密一樣，李淵也出身名門，祖父李虎，是西魏八大柱國之一；父親李昺是北周的柱國大將軍；母親獨孤氏，與楊廣母親是親姊妹。這樣的家庭背景使他對小自己3歲的表弟楊廣有更多的了解。楊廣生性多疑，李淵韜光養晦，謹慎小心。本來他也野心不小，早有取代楊廣之意，大業九年（613年）正月楊玄感尚未起兵時，李淵任衛尉少卿（衛尉卿的副手，協助掌管國家武器軍械）在涿郡就曾和他日後妻舅宇文士及密論過此事，隻是認為時機不到隱而未發，此後一直在窺探形勢，到太原後，即令他的長子李建成、次子李世民分別在河東、太原廣結各方英豪，又以防禦突厥為借口，積極招兵買馬，相機行事。
如今的機遇千載難逢，楊廣遠在江都，朝廷精銳正在東都與李密鏖戰，其餘官軍亦多為各地義軍牽製，關內富饒而防備空虛，南下取長安，控製關內與巴蜀以為鞏固後方，進而逐鹿中原，漢高祖劉邦正是這樣取得天下的，李淵決定沿著劉邦的成功之路前進。大業十三年（617年）五月，李淵栽贓殺掉楊廣安插在太原監視他的副留守王威、高君雅，脫離楊氏政權。然而他在進一步行動前，謹慎行事，妥善處理各方關係，充分顯示了他政治上的成熟老練。
李淵北結突厥，他遣使向突厥稱臣，請求支援，答應“若入長安，民眾土地入唐公（李淵封爵），金玉繒帛歸突厥”。此行徑與300年後石敬瑭稱契丹為“父皇帝”並無本質區別，因石敬瑭建立的後晉不過10年壽命，國柞太短，落了個遭人唾罵、遺臭萬年的下場，而李淵的同樣醜事則鮮有人提及。曆史上成者王侯敗者寇，從來如此，可見封建政治者，說得冠冕堂皇，其實是很肮髒的。但不管怎麼樣，李淵還是獲得了實惠，解除了後顧之憂，又得突厥騎兵援助，為他奪取長安創造了極為有利的條件。
李淵又南聯李密，他作書李密，願與結盟。李密心高氣傲當即要李淵到河內（今河南沁陽市）當麵會談。李淵哪裏是真想和李密聯合，隻不過是利用李密將關東通往關中的道路阻住使江都的信使不通，又讓李密為自己把東都的官軍拖住，以便他南下西征。於是回信李密，故作姿態，擁戴李密，希望他早登帝位，自己隻想攀龍附鳳而已。看來30多歲的李密畢竟年輕，難免幼稚，竟把謊言當真，還向他的部下公開宣布，有“唐公見推，天下不足定矣！”而實際情況是，危機正在一步步向他逼近。
不過，一時受李淵虛情假意迷惑的也不僅是李密一人，還有不少人以為皇帝姻親、邊防重臣、太原留守李淵都擁護李密，那李密成事則當是易如反掌。所以這年九月，又有武陽丞元寶藏（武陽郡治貴鄉，今河北大名）舉兵響應李密。武陽是一大郡，有213035戶，在全國居第三，僅次於京兆尹（治長安，今陝西西安市）和魏郡（治安陽，今屬河南），超過東都所在的河南郡。在古代，哪裏人口多，哪裏就富庶。武陽郡當永濟渠邊，處水陸交通要衝，武陽郡的歸順，使李密在河北也有了據點。
元寶藏起兵時，魏征正在貴鄉，元、魏二人早有交往，元遂邀魏征充任他的書記（掌管文書事宜），征欣然應允，這不是對元寶藏抱有幻想，而是對李密心存厚望。經過多時觀察，魏征終於投身到時代洪流中來了。經同意後，他即以元寶藏名義作書李密，請求準許元寶藏率部西取魏郡（郡治安陽，今屬河南），南會諸將取黎陽倉（在黎陽，今河南浚縣）。魏郡有306544戶，是全國第二大郡，黎陽倉是楊廣征高麗的後勤基地，儲糧及軍需物資無數，楊玄感選擇在這裏起事，應當說是正中楊廣要害，隻因戰略方向錯誤而招致失敗。為此李密十分讚賞元寶藏的戰略決策，任命他為魏州總管（魏州即武陽郡），並即遣部將徐世績領兵5000從原武（今河南原陽縣西南）渡過黃河，會同元寶藏及附近各部義軍一起進攻，順利地攻下了黎陽倉，並開倉讓百姓任意取食，旬日之間，得精兵20餘萬。武安（郡治永年，今河北永年東南）、永安（郡治黃岡，令湖北新洲）、義陽（郡治義陽，今河南信陽市）、弋陽（郡治光山，今屬河南）、齊郡（治曆城，今山東濟南市）亦相繼投降李密，河北竇建德、江漢朱粲部也遣使歸附。
取得黎陽倉，李密的事業如日中天。他追本溯源，了解到取黎陽的戰略計劃最初源於魏征，他特別欣賞魏征識見高明，說理透徹，語言華美犀利，立即召見。魏征求明主多時，毫不遲疑離開元寶藏轉到李密麾下，被任為元帥府文學參軍，掌記室（主管文書）。
魏征一就職便為李密代筆寫了一封勸降書。當時河南郡縣全都歸附，隻有滎陽郡（治管城，今河南鄭州市）太守楊慶、梁郡（治宋城、今河南商丘市南）太守楊汪還在為楊廣效命。魏征在給楊慶的信中，首先揭露楊廣種種罪行：剝削百姓，荼毒生靈；驕奢極靡，荒淫酒色；違忠拒諫，聽從婦言；殺戮忠良，租稅無已，因此引起民眾反抗，四麵八方，萬裏俱來，爭相亡紂滅秦。接著具體分析形勢：東盡大海，南迄江淮，所有的民眾都紛紛響應反對楊廣暴政。李淵起兵晉陽（今山西太原市），關中父老，千裏犒師；元寶藏取黎陽，河北人民都歌唱從疾苦中獲得了新生。如今你困守一座孤城，能有什麼作為？為你打算，不如舉城從義，開門請降，可長保富貴，直至子孫，否則難免臨刑之歎。這封信，義正詞嚴，引經據典，條分縷析，很有針對性，極具說服力，楊慶得信，十分惶恐，立即投誠，這充分顯示了魏征的雄辯高才。而這時的李密，表麵上聲威赫赫，其實是回光返照，潛在危機正在逐步變為現實。