不管李淵想不想造反，反正李淵已經具備造反的條件了，經濟上，有了晉陽、雁門、馬邑、樓煩、西河五郡的地盤以及隋煬帝晉陽行宮的皇家儲備。隋朝十分注重國家戰略物資儲備，皇帝行宮、各大國家級糧倉的戰略儲備量是驚人的，後麵還會提及；政治上，隋煬帝的暴政已經把自己完全推到人民和各級官僚的對立麵，失去了民心。到處都在造反，各級官吏人心惶惶，不知道哪一天會殺到自己頭上來；組織上，李淵已經擁有自己控製的力量，而且這些力量經過了戰爭的鍛煉，有了成熟的戰術戰法。而且有晉陽宮監裴寂、大理司直夏侯端、晉陽鷹揚府司馬許世緒、行軍司鎧武士彠(yuè)、前太子左勳衛唐憲、唐憲的弟弟唐儉、原右勳衛長孫順德、原右勳侍劉弘基等一批骨幹力量。年輕的李世民更是耐不住，積極進行造反籌備。
李世民首先要骨幹成員的物色，李世民找到了晉陽令劉文靜，李世民為什麼找劉文靜？劉文靜、李世民其實都互相摸過底。有一次，晉陽宮監裴寂向劉文靜哀歎：“我們本來就沒有錢、沒有後台，碰到這樣的亂世，我們怎麼才能自保？”劉文靜看上去很豁達地笑道：“當前情況可以進行判斷。你我關係這麼好，混的好壞有什麼好擔心的？”其實劉文靜已經判斷李世民要造反，已經把籌碼押到李世民身上了，所以才這麼自信。李世民選擇同劉文靜的談話地點也挺有意思，劉文靜因為同楊玄感有姻親關係，而被株連下獄關押在晉陽監獄中，小命在老李家控製中，李世民精明的同劉文靜進行了一次穩妥的獄中談話。
劉文靜：“天下現在大亂，不是漢高祖、光武那樣的才能，是沒辦法平定的。”（漢高祖、光武都是造反起家的，言下之意就是現在是造反的時候。）
李世民：“不知道現在有沒有這樣的人才，人們不知道他們啊。我來看你，不是為了什麼兄弟義氣，是因為有這樣的大事同你商量，你看事情怎麼辦？”（言下之意：我要造反，你看我行不行？我雖然年輕，你跟不跟我後麵幹？）
大家都是聰明人，一番試探後，互有靈犀，都打開天窗說亮話。
劉文靜：“現在主上南巡到江淮一帶不回來，李密在圍攻東都洛陽，造反的有數萬人，在這時候真正有能力的主上把這些人收到手下，奪取天下易如反掌。晉陽城的百姓都是躲避戰亂來的，我幹晉陽令也好幾年了，這些人裏麵有不少是豪傑，把他們招募來，可以達到十萬餘人。你手裏還有好幾萬人馬。你講造反誰不聽你的？趁兵力空虛，十幾萬人馬打到關中，號令天下，半年不到，你就成就帝業了。”
李世民笑了：“你我想的一樣！”
大計就此定下，下一步就是要說服李淵了。有一個傳說，就在李世民和劉文靜密謀的當天晚上，李淵做了一個夢，夢見自己從床上摔到地上，遍身長滿蛆蟲。醒來後李淵鬱鬱不樂，告訴了安樂寺智滿禪師，智滿解夢說，你要得到天下，“床下”就是陛下的意思，身上許多蛆蟲就是眾多生命都靠你一個人存活！把李淵聽得樂嗬嗬的。但李淵畢竟年紀已大，幹事老謀深算，絕不輕易表態。李淵葫蘆裏賣什麼藥，連李世民心裏都沒有底。李淵不能不這樣，在這亂世之中，常常自己被身邊人出賣了自己還不知道。的確，就在此時，正有人在無人注意的角落，用陰毒的眼光冷冷的盯著老李家的一舉一動。這人是誰？王仁恭的二把手——馬邑郡丞李靖，不錯，就是後來為大唐立下赫赫戰功的李靖！曆史有的時候真的很會開玩笑。李世民這時當然不知道，一切按計劃進行中。
大計定下後，劉文靜找到了皇帝行宮晉陽宮負責人——晉陽宮監裴寂，裴寂是李淵的鐵杆老朋友，這樣就可以通過裴寂收集到關於李淵的第一手情報料而且關鍵時可以出麵說服李淵。李世民親自布置拉攏裴寂的工作。知道裴寂愛賭博，專門安排龍山縣令高斌廉陪裴寂賭錢，賭錢就賭錢，高斌廉還要輸錢給裴寂，而且不能一下子輸的太多，輸多了人家會起疑心的。裴寂後來幹了一件鬼事，利用職權安排了一個美女同李淵睡覺。這本來是件小事，但要命的是這個美女是晉陽宮的宮女！你老小子敢睡皇帝的女人？！這件事一旦敗露，李淵、裴寂全要殺頭。