又過了兩年，楊廣任命李淵為太原留守。聖旨下到李府，眾人都高興異常。
“世民，你陪著父親去晉陽吧，我去河東與元吉彙合，慕蘭和柴紹就留在長安策應吧。”李建成私下給弟妹派任務，柴紹，李慕蘭的夫君。
“為什麼是我去？”李世民問。
“因為父親拿你最沒辦法！”李建成笑道。
可是李慕蘭卻擔憂起來，他們幾個這些年一直暗中活動，萬一父親知道了，能放過他們嗎。
“放心吧。”李建成胸有成竹，“誰不想君臨天下？我們都活動這麼久了，父親怎麼可能一點兒風聲都不知道，不過是睜隻眼閉隻眼罷了，早就心裏默許了。”李慕蘭這才點點頭，不再答話。
幾日後，李淵便起身前往晉陽，李世民帶著舜華同行。
而李淵到晉陽沒多久，便遇到了曆山飛強攻太原，李淵率軍抵抗，沒想到卻被曆山飛圍困，不得脫身，千鈞一發之際，李世民輕騎突圍而至，如風呼嘯般，身過之處皆順勢射以飛箭，或一箭飛掠，或三箭齊發，百發百中，竟使得敵方不敢冒進，於亂戰之中救得父親全身而退。未幾援兵到來，父子二人合力最終誅殺了曆山飛。
之後，在一次一次的實戰中，以及從曆代兵書中領略的經驗和要義，李世民漸漸悟得了輕騎的重要性和作戰要領，遂選百名親兵親自一一訓練，衣玄甲，每人配長槊、大刀和箭囊，改重騎為輕騎，如此這般，其戰鬥力竟可成倍翻長，幾達無堅不摧之境地，他自己驕傲地將這支隊伍成為“玄甲隊”，夢想著有一天能廣而效之，組建出一支這樣的軍隊來。
話說也該是英雄出世，故而以世道紛亂促之。不過一兩年，魏公李密雄踞瓦崗寨，威震四海，竇建德稱霸河北，洛陽王世充也勢力見長，南方蕭銑正鬧騰地風生水起，關中薛舉也起兵反隋，意欲直指長安，當此之時，天下早已四分五裂，而隋帝楊廣則帶領數萬禁衛軍以及親信宇文化及等躲在江都不敢回京。
為了給將來的起事做準備，這兩年間李世民常暗中結交武林豪傑，與他們稱兄道弟，不分彼此，竟也聚集了一小眾人，晉陽令劉文靜便是其中之一。李淵則繼續裝聾作啞，放任李世民所為。其實在李淵的心裏，他早已有了稱王稱帝的野心，常常在夢中臆想著起兵事宜，但由於深知一旦踏入這趟渾水，就是前途未卜，且退無可退，弄不好還會身死家滅，所以一直不敢下定最後的決心。
這天，晉陽令劉文靜正與李世民在房間裏密議。
“如今天下紛亂四起，二公子還是早日勸唐公舉事為好，若等到群雄將天下分割殆盡，那時再舉事，可就一杯羹就沒了！”劉文靜說。
李世民略一思索，點點頭，表示同意。
劉文靜又說：“臣聽聞關中薛舉已起兵，正向長安逼近，關中曆來是兵家要地，昔日秦據關中而一統六國，眼下當今陛下滯留江都，關外群雄亦無暇西顧，京師長安又兵力空虛，此時起兵若能一舉直指長安，這天下可就先占了三分了！”
“這我知道，可我也不是沒跟父親提過，可父親每次總是模棱兩可，要麼說時機未到，要麼說不能倉促行事，哎，我也是著急的很呢！”李世民說，言語中頗有些無奈之意。
“既然唐公未明確阻止二公子，那想必心裏也是同意的吧？再說，二公子這些年一直暗中結交豪傑，想來唐公也不會全然不知吧？”劉文靜繼續說。
“那倒是。我也覺得父親其實是想做一番事業的，我記得剛來晉陽的時候，父親還說這晉陽府庫充盈，乃龍興之地，私下還竊喜不已。況且這些年父親也沒少招降納叛，司馬昭之心哪！隻是，父親平素裏就猶豫慣了，總也下不了最後的決心。”
“是啊，唐公一向眼光長遠，有些顧慮也屬正常。”劉文靜歎道，不知是褒揚還是暗貶。李世民笑而不語。劉文靜又說：“唐公現在畢竟榮貴一生，不像李密、竇建德等人，除了起兵反抗已走投無路，若一著不慎，隻怕就連現在的榮華富貴也一去不返啊，豈能不慎？”
“可不。一無所有的時候往往態度更為堅決，這豈能一樣？”李世民應和道，但突然想到了什麼，立刻喃喃自語起來，“咦？也對，你這麼一說倒是提醒我了，要是父親也一樣走投無路呢？”
“這怎麼可能？二公子，您異想天開了吧？唐公怎麼可能走投無路？”劉文靜暗笑不已，不知道這位公子哥兒又有什麼小算盤。
李世民“嘿嘿”一笑說：“這你就有所不知了，等著瞧吧！”說完不等劉文靜回話便起身就走，留下劉文靜疑惑不解地怔在那裏。
且說李世民走後徑直來到了晉陽宮，找到晉陽宮監裴寂，這裴寂曆來與李淵交好，甚至達到了同臥起坐的地步，故而李世民也與之相熟的很。李世民悄悄與裴寂耳語一番，裴寂先是驚訝，而後是暗笑，繼而連連點頭表示同意。
第二日，李世民連哄帶騙地帶著李淵出門，二人喬裝改扮來到一家妓館，裴寂跟著。
“我們來這兒，有點兒不太好吧？”門前，李淵猶豫著。
“我們喬裝來的，沒人知道是我們，有什麼不太好？”李世民勸著，又添油加醋地說，“聽說這兒剛來了兩個新的，那真的是碧波流轉，玉肌粉腰，一步一聘婷，一笑一傾城，想著都銷魂，不見可惜了？！”
李淵聽著心裏發癢，但不想在兒子麵前露出窘態，一再掩飾極力克製。李世民卻不由分說硬拉著李淵走了進去。少傾，便有老鴇迎了上來，裴寂立刻上前，向老鴇使了使眼色，說：“這是我們家阿郎和公子，點名要你們這新來的兩位姑娘，賞銀決不會少了，可不要不識時務啊！”
“誒，是，是，是，一定遵照吩咐，絕不敢怠慢了，您裏麵請。”說著便向前帶路。
李淵一行三人走上樓梯，來到西廂房，早有茶水上了上來。過了一會兒，便有兩位窈窕淑女在侍女的陪同下緩步走出簾帳，向三位恭敬地行了個萬福禮，然後重新走入簾帳，坐在薄薄的紅紗後麵，雙手搭在琴弦上，一起彈奏起小令來。美人若隱若現，如瑤池仙境，琴聲絲絲入耳，更撩人心弦，李淵聽著，看著，目不轉睛，神情恍惚。李世民瞧著心內竊笑不已。
“父親。”李世民湊到李淵耳邊，輕聲說道，“我和裴宮監還有事要商量，就先行告辭，不打擾您了。”
“這，”李淵反有些不好意思了，“世民呀，這父親應該讓給你才對嘛！”
“啊？別，別，別。”李世民趕忙一口否決，“理應先孝敬父親您老人家的，好事兒當然應該先緊著您才對。再說，您這些天一直日理萬機的，我這做兒子的，應該為您排憂解難不是？這孝順二字我可是永遠都不敢忘！”
見李世民說得誠懇，李淵也不再推辭，就說：“好，知道你最孝順了。”又看向裴寂說：“那你們……”
“哦，我跟二公子就先行告辭，我們真的還有事要商量。”裴寂聞言立刻起身答道。
“好，好，那你們就隨意吧！”
“是！”李世民、裴寂二人齊聲說道，然後便一起退出了西廂房。走下樓梯後，李世民轉身向裴寂雙手作揖說：“裴宮監，這裏就全靠你了，我就先行回去，不作陪了！”
“二公子請自便！”裴寂也回禮道。
誰知第二天一大早，李淵就從裴寂口中得知，昨晚的那兩名女子根本就不是什麼妓館的人，而是皇帝陛下留在晉陽宮的宮人，雖未封妃嬪，但已是皇帝陛下欽點的後宮之人。這晉陽宮作為皇帝離宮，平素總會留幾名宮人在此，以備皇帝陛下他老人家臨幸時有人作陪。可李淵哪裏知道，這裴寂竟如此膽大包天，把皇帝陛下的人送給了他，而更讓他可氣的是，這個主意竟然是他的寶貝兒子李世民出的，於是，他氣急敗壞地回到家，立刻把李世民叫到跟前訓話，來來回回地踱著步，罵個不停。
“父親，您罵完了嗎？不就兩個女人嗎？有什麼了不起的！”李世民道。
“有什麼了不起的？你說有什麼了不起的？這要是讓陛下知道了那還得了！”李淵憤憤地說。
“我們不早就準備起兵了嗎？這陛下在您眼裏早就不是什麼陛下了吧？”李世民趁機試探地問。
“你懂什麼？起兵是那麼一句話的事嗎？稍有差池就是覆滅之災，一旦起了就再沒有退路了！”李淵意味深長地說。
“那現在也已經沒退路了呀！紙裏包不住火，您這事陛下早晚得知道，與其束手就擒倒不如先發製人，您說對吧？”李世民又接著試探，攛掇他父親起兵。
李淵走近李世民，上下打量幾下，十分不解地說：“這餿主意誰給你出的？”
“我自己呀！”李世民頗為得意地半仰著臉。
“你！”李淵指著李世民道，“這，好好的一個孩子，怎麼就長歪了呢？什麼亂七八糟的，哪來的餿主意的？”
李世民不依不撓辯解道：“我哪裏長歪了？就是母親在的時候您不也是經常花天酒地的，我要是長歪了那也是跟您學的！”
“嗯？什麼？我那是……”李淵狠狠瞪著李世民。
李淵話還未說完，李世民就搶著說：“父親那是為了我們李家而忍辱負重地犧牲小我，做戲給皇帝陛下看！”
“哼！知道就好！”李淵狠狠甩袖，轉身回座。
“啟稟主公、二公子，江都有詔令傳來。”李淵、李世民聞訊皆一驚，倆人皆心裏嘀咕“出什麼事了？”
原來，馬邑劉武周起兵反隋，因馬邑隸屬太原，故而皇帝楊廣聽聞後遷怒李淵，特頒下詔令免去李淵太原留守職位，並命其靜待處分。是王威、高君雅來宣讀的詔令。這王威、高君雅是楊廣的親信，當年命李淵為太原留守時便一並任命王威、高君雅二人為副留守，以監視李淵。
接到這一詔令後，李淵頓時惶恐不已，來回地在廳中踱著步，而劉文靜、裴寂也一起聽說了此事，便齊齊趕來，聯合李世民一起勸李淵趕緊起兵舉事。四人一起商酌了片刻，李淵終於咬咬牙狠道：“事情已經到了這個地步，隻怕後果不容樂觀啊！”
“可不！”李世民趁機道，“之前陛下就一直懷疑父親，這下又出了這檔子事，新仇舊恨加起來，隻怕陛下真的會……下殺手啊！父親，我們李家一向以武立家，如果坐以待斃，傳出去可是會讓天下人恥笑的！”可是李世民的心裏卻懊悔不已，想到早知道會有這事也就沒必要籌劃晉陽宮宮人的事，真是白忙一場，浪費了大好時光。
“說得對，千鈞一發，不能再猶豫了！”李淵狠狠說道，“隻是眼下兵馬不足，這該如何是好？”
劉文靜趁機上前道：“稟唐公，目前劉武周剛起兵南下，雖然還未成大氣候，但形勢緊迫，足以有理由招兵買馬了。”
這時裴寂也湊上前說：“朝廷有令，不得已之時可先行招兵再稟報，唐公，眼下便是不得已之時啊！”
而李世民卻紋絲不動，但時刻注意著李淵臉上的表情，直到自以為覺察到李淵之決心將下未下時才緩緩開口說道：“父親，箭越早射出就越有機會搶得好靶心，為全家人著想，孩兒覺得您還是早點定計為好，以免貽誤時機，徒為天下笑！”
李淵一一環顧著對麵的三人，又低頭冥想一番，片刻之後，終於抬起頭，斬釘截鐵地說：“好！那就這麼定吧！不過，在未明朗之前，切記，必須秘密進行，決不可泄露一二！”
“是！”李世民、劉文靜、裴寂三人同聲應道。接下來，四人又重聚到一起，秘密商議了許久才罷。
第二天，李淵就約了太原副留守王威、高君雅，說是談事，隻因此時李淵已被削去太原留守位置，故而對王威、高君雅二人假意奉承、極盡阿諛諂媚之事，又不停地一邊謝罪一邊表忠心，直搞得王威、高君雅二人飄飄然起來，都一致寬慰李淵，並說還會替他向陛下美言，請他無需多想，這李淵一聽到這兒，自然又是千恩萬謝，就差叩頭朝拜了，而王威、高君雅自然更是屢屢開懷大笑，二人心裏還想，就是陛下多心，這李淵如此之熊樣豈敢有不軌之心，即便有又能成什麼事！
豈知酒酣耳熱之際，李淵察言觀色，找準時機悄聲對王威、高君雅二人說：“二位仁兄，恕李淵直言，如今晉陽之北劉武周風頭正盛，大有不可抵擋之勢，若一路南下，隻怕不日便……“
“嗯？唐公之意是，他會打到晉陽來？”王威、高君雅一下子嚇得酒醒了八分，略帶驚恐地問李淵。
李淵則轉了話題寬慰二人：“依眼下形勢來看，短期內要打到晉陽，這可能性也不大。”
“哦，那就好！唐公啊，您嚇死我們了！”王威說著還不住地拍拍胸口。
李淵卻又轉了話題：“隻是話雖這麼說，但兵貴神速，也不擔保某天突然就……”
“啊？”王威、高君雅的心又都提到了嗓子眼兒。
李淵見此情景也假裝恐懼地說：“不瞞二位仁兄，這不怕一萬就怕萬一啊！劉武周馬邑起叛，晉陽與之同屬太原，與其他地方相比，終究咫尺之隔，一路南下也並非不可能啊。老實說，這些天我一想到這事兒，那是夜夜難眠啊！”
“這……這……”王威、高君雅二人私下一想，李淵之言並非全無道理，可又一時拿不出萬全之策，皆你瞪著我我瞪著你，幾分恐懼之下不知怎的又對李淵稍微警覺了起來，看李淵的眼神漸漸有了些異樣。而這些，李淵全然看在眼裏，他父親早亡，不到10歲便承襲了爵位，人事往來之間早就練就了察言觀色的高超本領。
李淵又假裝極為恐懼，故意帶些恫嚇地語氣說：“其實有時候我想這倒也真沒什麼大不了，即便他劉武周打到晉陽來，我晉陽守軍也個個士氣高昂、以一當百，難道還退不了一個小小的劉武周？”
“嗯！”王威、高君雅二人齊齊點頭。
但李淵又說：“隻是這劉武周還暗中與突厥方麵有所勾結，聽說雙方還達成盟約，突厥意欲暗中相助呢！若當真如此，到時候我晉陽守軍如何抵抗啊？”
這下王威、高君雅都低頭沉默起來，隻聽李淵又說：“說句不好聽的話，若到時當真晉陽失守，李淵畢竟出身武功世家，安全脫身等待陛下派兵來援，於我並非難事，隻是你們二位……真的能等到那時候嗎？李淵今天說這番話全是為二位著想，古語雲‘有備無患’，李淵認為還是早些做準備的好，以免到時措手不及……”
“哎！”聽到這裏，王威、高君雅皆不停地歎氣，“唐公啊，您不是糊塗了吧？等陛下派兵來援？陛下現在身在江都，北有瓦崗群賊南有蕭銑，早就被截斷了回路，不敢回來了呀！”
“再說，”高君雅無奈地補充說，“我們要稟告陛下，也隻能繞遠，這一來二去，隻怕陛下還未到，我們就已經埋屍荒野了！”
李淵假裝恍然大悟道：“是啊，確實如此！可眼下形勢如此緊急，也片刻耽擱不得呀，否則你我將皆為虜矣！”
“這……這……”一想到北邊的劉武周有可能頃刻將至，王威、高君雅就無計可施，“唐公帶兵多年，一向精於武事，還是請唐公您趕快拿個主意吧！”
“這……”李淵假意猶豫不決，直急的王威、高君雅二人催促不已，早就將先前的警覺拋到了九霄雲外。禁不住王威、高君雅的恭維和催促，李淵才說：“依我之見，我們不如就從今日起在城中招募壯丁，日夜訓練，以備不時之需。”
“這……這……這倒也是個好主意。”王威附和道，“隻是，這招募壯丁還需稟報陛下之後才能執行，可陛下現在遠在江都，這一來二去不就又耽誤了些許時日嗎？”
“對呀！”王威說到這裏，高君雅一拍大腿，急忙說，“朝廷有令，一旦有急可先行招兵再行稟報！對！就這麼幹！這樣最好了，不誤事。你們二位覺得如何？”
殊不知李淵等的就是這句話，但此時他還是假意推辭道：“朝廷雖有令如此，但我等如此擅作主張，也不太好吧。我想還是先稟報陛下再招兵吧，也許劉武周會突然生病了，為我們拖些時日也未可知啊！”
可李淵這麼一說，倒真把王威、高君雅二位給逼急了，他二人一想到劉武周就恨不得半柱香時間內就招得千軍萬馬，現在一聽李淵有推辭之意，二人立刻異口同聲地回絕了李淵：“哎呀，唐公啊，您就不要推辭了！寄希望他劉武周生病，這不是天方夜譚嗎？天意難料，我們還是盡人事的好！”
“好吧，既然二位都同意如此，我也不便反對了。”李淵隻好說，“隻是我現在剛被革去留守之職，現晉陽自然二位為大，這招兵之事二位就全權負責好了，我不過一老朽，安危不足慮，隻要你們能無恙，李淵也就可以心安了，也不枉我們多年同僚之誼。”
這王威、高君雅一聽李淵這話，心中都不約而同地想到，這是李淵推卸責任之話。誰不知道，現在各地叛賊四起，早就如春草一般剿不盡、伐不滅，平叛的功勞誰都想要可誰都知道誰都要不了，但一旦無功必定將麵臨朝廷嚴酷的懲罰。如此之苦差事，王威、高君雅才不想攬到自己身上，他二人一起向李淵獻媚道：“唐公您真是折煞我二人。在晉陽縱然您沒有這留守之位也自然是您為大，何況您曆來戰功赫赫，這招兵統兵之事，除了您，再無第二人選，請您萬萬勿辭啊！”言語間極為懇切。
可李淵還是推辭道：“不，不，不，我們還是遵照朝廷法度辦事的好，我已被撤免留守之職，這軍務理應由你們兩位統領，李淵從旁協助便好。”
“不，不，不。”王威、高君雅立刻推辭，“我二人粗陋，不懂武事，還是唐公統領，我二人從旁協助的好。”
如此這般，三人互相推諉了好一陣，李淵才極不情願地同意了主領此事，王威、高君雅卻自以為得計，興高采烈地回了官署，一起擬好招兵文書呈給李淵，請他下發，這二人是一點兒罪責也不想自攬上身。同時，他二人私下裏又獨自籌算了一下，害怕將來李淵後悔承攬此事，就一起向江都上書，一麵稟報招兵事宜，一麵又把李淵狠狠地誇了一番，大讚其忠心耿耿、一片赤誠，極力懇求陛下赦免李淵之罪，繼續命其為太原留守。
而身在江都的皇帝楊廣，因對這裏的情形一無所知，加之王威、高君雅又是自己的親信，如此這般竟全然信了王威、高君雅二人上書所言之事，遂命即刻傳令，撤去對李淵的處分，命其繼續留守太原，北距叛賊。隻不過，詔書下達晉陽之時，李淵已準備的十有八九，而詔書的到來則更讓其如虎添翼，更方便公開行事，此是後話。楊廣怎麼也沒想到，他竟然自己幫助了一個反對自己的人。