接著，並州文水（今山西文水）的武士彠、戎州（今四川宜賓）刺史唐鑒的兒子唐儉，又專程來太原勸李淵起兵，他一時猶豫不決，正想再去晉陽官與劉文靜、裴寂商議，二子世民突來報告了一個壞消息：“煬帝將劉文靜抓起來了，這真是意想不到的事情！”
李淵大吃一驚道：“為什麼？劉文靜犯了什麼事？皇上遠在江都，怎麼到晉陽來抓人？”
李世民忙對父親說：“孩兒隻聽說劉文靜是受李密的牽連，才被抓捕的……”
原來占據瓦崗的起義軍首領李密，不久前攻打東都洛陽，隋煬帝一怒之下，聽說晉陽令劉文靜與李密有姻親關係，便被株連上了。
李淵又問兒子：“劉文靜被關押在哪裏？”
世民忙答：“暫時就被關押在太原監獄裏，不知以後會不會往江都解送。”
李淵手捋胡須，沉吟了一會兒，對世民吩咐道：“快去讓夏侯端、李濤來我這裏！”
不一會兒，兩人走進了客廳，李淵劈頭就問：“當前，我們能上陣的精銳兵士有多少？”
李濤急忙答道：“四千人馬不到吧！”
“太少了！”李淵自語道，又接著問：“能否在短時間內，再增加一些騎兵？”
夏侯端告訴他說：“那些老弱殘兵雖然充了數，但是沒有作戰能力，要他們何用？”
李淵聽了直點頭：“是的，是的，那不是濫竽充數嗎……再多也無用！”
李世民插話道：“前次鷹揚府司馬許世緒不是向父親表示過他的三千騎兵，願以我們的馬首是瞻，何不把他的三千騎兵充實進來？”
李淵忙把大腿一拍，笑道：“世民說得對，許世緒是說過這話，但……但不知他會不會——”
“父親，讓孩兒去許世緒那兒一趟吧！”世民請求說。
李淵看著兒子道：“可以，你現在就去。”
世民正要走，李淵又對李濤吩咐道：“現在是亂世，讓你叔父領二百騎兵，護送你去吧，為父才放心。”
李濤答應一聲，隨世民一起走了出去。
夏侯端低聲問道：“怎麼，要起兵了？”
李淵詭秘地搖了搖頭，笑道：“還不到時候，你再耐心等一段時間吧！”
夏侯端卻說道：“還要再等一段時間，一旦李密拿下了東都，豈不威脅太原？”
李淵心說：“這話說得對，一旦李密拿下了東都，他將要窺伺我的太原了，這倒真是值得考慮的事情。”
過了一會，李淵又忽然想起騎兵的事情，忙說道：“我的夏侯老弟！你得替我訓練出一支精銳的騎兵啊！”
夏侯端趕忙說：“好吧！隻要鷹揚府的騎兵調來，我就抓緊訓練，保證在三個月內，訓練出一支能征慣戰的精銳騎兵隊伍。”
李淵卻對他說：“據我了解，突厥所長，全在騎射。突厥人以弓箭作手臂，以甲胄為服裝，有利就打，遇難就溜，行動迅速，不重形式，真是靈活機動。我們也要學他們呀！”
夏侯端也說道：“大將軍說得對，了解他們，學習他們，最終才能打敗他們！”
李淵笑道：“不僅是能打敗突厥人，也能對付其他人的隊伍，你說是不是這樣的？”
後來，鷹揚府許世緒果真領著自己的三千騎兵，加入了李淵的騎兵隊伍，經過一段時間的訓練之後，這六千多人的精銳騎兵，確實是李淵手中的主力。
劉文靜被關押後，李世民總想救他出來，又怕父親不答應，便對李淵旁敲側擊說：“劉文靜為人豪爽，胸懷韜略，是個難得的人才，孩兒想去獄裏探望他一下。”
李淵對劉文靜亦有好感，隻是沒有明說，他提醒世民道：“你去看望他，也不失朋友之道。不過，你要小心謹慎，別讓王威、高君雅的耳目抓住了把柄！”
李世民答應一聲，揣了些散碎銀子，叫上叔父李濤，帶了十幾個護衛騎兵，便去太原獄中，先見到監管大牢的劉元義，二人本是相識，焉有不準探望之理？
世民來到獄中，二人一見，劉文靜忙說：“我知道少將軍會來看我的。在文靜眼中，少將軍豁達大度，勝似漢高祖劉邦；神武謀略，又要超過光武帝劉秀，真乃命世之才！”
李世民聽了，自然高興，口中忙謙虛道：“過獎了！世民年輕，怎敢與他們相比？”劉文靜立刻說道：“如今天下大亂，朝廷名存實亡，急需有商湯、周武、漢高、光武一類的英哲人物出來，才能穩定局勢呢！”
李世民忙說：“這樣的人物在哪裏呢？”
劉文靜笑道：“遠在天邊，近在眼前！剛才文靜已說了，少將軍英才嶄露，將來定是主掌神器之人！”
李世民搖了搖頭，說道：“我們先不談這個，我來探望閣下，是想與君商量舉大計之事，請直言相告。”
劉文靜侃侃而談：“我們先分析一下天下形勢吧。當今瓦崗的李密正在攻打東都，煬帝南下江都，各地烽煙四起，大的連州郡、小的占山澤，真是數不勝數！但是，這些人都成不了大事。如果你們李家出來號令天下，四方才有可能安定下來。”
李世民忙問道：“為什麼呢？”
劉文靜又說：“你們李家父子占據著太原這個有利的地勢，手握重兵，又招納那麼多有識之士，還有那條讖語上說的李姓人當坐天下的預言，不是恰好應驗了嗎？”
世民聽了，不由又說道：“隻是兵力稍顯不足。”
“那沒有什麼，兵力易於解決，”劉文靜把手一揮，又說出自己的看法：“據我所知，近年來，四方的百姓為躲避盜匪，紛紛擁入晉陽。我任晉陽令幾年，結交了那麼多豪傑英雄，一旦召集在一起，不下數萬，再加上你們太原的軍隊，兵力就不少了吧！”
世民又說道：“說起來是這樣，但父帥老是遲疑不安，顧慮太多，我多次勸說，總不見效！”
劉文靜又勸道：“你們父子隻需振臂一呼，定能應者雲集，再乘虛入關，不用半年，可成就帝王之業！這是良機，不能坐失呀！”
世民聽到這裏，興奮地說：“英雄所見略同。我何嚐不願意，隻是父帥總不願背隋。”
劉文靜突然靈機一動，在世民耳邊低聲說了一會兒，狡猾地笑道：“隻要裴宮監如此這般去做，不怕令尊不答應，請少將軍抓緊去辦吧！”
李世民也笑了笑，對劉文靜說：“此計甚好。”
他正要告辭時，又轉過身來，對劉文靜小聲說道：“三天之內，一定救你出獄！請耐心等著吧！”
劉文靜高興地點頭，向李世民揮手道：“我在此靜等少將軍的好消息了！”
出了太原監獄，李世民又與李濤等來到晉陽官，見到裴寂，將劉文靜的計策向他一說，這位宮監立刻笑道：“好。”
李世民又說道：“既如此，我現在就回太原去了。”
回到太原以後，見父親麵帶愁容，坐在客廳裏長籲短歎，甚是焦慮。一問方知是突厥人攻打馬邑，王仁恭與高君雅連戰失利，突厥人還揚言要打太原哩！
李淵對世民說：“這件事若是被遠在江都的皇上知道，怪罪下來，豈不更加麻煩？”
世民乘機對父親說：“如今皇上無道，誰眼裏還有他這皇上？各地紛紛起義，百姓無以為生，隻有走上反抗道路，晉陽城都變成了戰場。父親再坐等昏君治罪，那不是自尋死路嗎？依孩兒之見，不如順應民心，舉起大旗，方能轉禍為福，化險為夷，不失當前這天賜的良機！”