想到這裏，李淵立刻命令駐守永豐倉的長子李建成，在駐軍中挑選精兵良將，馬上從新封急馳霸上，進占長樂宮，從東南方向威脅長安。
李淵自己則率領文武官員，在李濤所督率的衛隊護侍下，前呼後擁，經下邦西上，經過隋朝的櫟陽行宮時，下令廢除所有隋煬帝的行宮、花園、獵場，立刻釋放所有的宮女，讓她們得以脫離暗無天日、與世隔絕的深宮苦海，各自回家，去與親人團聚。
在這一年的十月份，李淵等也來到霸上，與長子李建成所部會合。接著，在大興城的春陽門之北紮營。
與此同時，延州（今延安）、上郡等地守將，都主動向李淵請求投降。至此，關中周圍各州縣，都已在李淵掌握之中。
按照李淵命令，各路兵馬紛紛來到，彙集到一處，約二十餘萬人，長安已處於唐軍的四麵包圍之中。
為了安定民心，不失信於天下百姓，李淵對溫大雅說道：“趕快起草安民告示，命令各路大軍都必須遵照規定駐紮在各自營壘之內，不得擅自闖入村居民宅，侵擾百姓，不得……”軍令嚴謹，秋毫不犯。
因為大軍攻城在即，李淵及時發布命令，約束軍隊，強化紀律，確是英明之舉，不會由於勝利將要來而衝昏頭腦，更不能失去來之不易的民心。
這次起兵的目的是匡扶帝室，除暴安良，所以李淵又及時發表了抨擊隋煬帝的文書，反複闡明這一宗旨，文中說：“大業以來，巡幸過度，宿止之處，好依山水。經茲勝地，每起離宮，峻宇雕牆，亟成壯麗。良家子女，充牞刃其間。怨曠感於幽明，縻費極於民方。替否迭進，將何糾逖？馳道所有宮室，亟宜罷之。其官人等並放還親屬……”
由此可以看出李淵十分精明，確有過人之處。
他從太原起兵，西進關中，一路打來，推翻的是隋朝的天下，卻高挑“尊隋”的旗幟，又不是“尊”這個荒淫無道、喪失民心的煬帝，讓自己永遠不失民心。
此時，唐軍中的將士們，眼巴巴地望著長安城就在腳下，恨不能一步跨進城去，可是李淵就是不下攻城的命令，他們急得如熱鍋上的螞蟻——團團亂轉，便去慫恿李世民說：“兵臨城下，唐公為何不下達攻城命令？請求右軍大都督前去催促——”
李世民聽了，忙對將士們說：“要說急，我比你們還急呢！不過，我們出兵關中是匡扶隋室社稷，舉的是尊隋旗幟，不懂嗎？既是尊，就不能硬打呀！”
有的將士又問道：“長安城內的衛文異、陰世師等若是至死不聽勸告，難道我們永遠坐守城下嗎？”
李世民笑道：“衛文異、陰世師等若是執迷不悟，不聽勸告，他們將失去民心，不得人心了，到那時，我們再攻城也不晚呀！”
將士們隻得回到駐地，坐等攻城命令……
這時候，長安城內的代王楊侑，麵對著李淵的二十萬大軍，已經兵臨城下，嚇得不知所措，整日以淚洗麵了。
其實，年僅十三歲的楊侑，能有什麼主張呢？
他的侍讀姚思廉倒是一個有著家學淵源、勤學寡欲的有識之士，見代王楊侑終日啼泣，便勸說道：“當此危難之際，過分悲切於事無益，反而傷神損體……”
楊侑說：“李淵的大軍四麵包圍，長安如何能保？”
姚思廉說：“按照皇上去江都時的旨意，輔佑代王的京師留守本是刑部尚書兼京兆內史衛玄衛文升，左翊衛將軍陰世師和京兆郡丞骨儀這三位大臣，如今長安危難在即，隻有召集他們來計議了。”
代王楊侑聽了，立刻點頭，命宮監速去召喚三位留守大臣來宮中議事。
不一會兒，陰世師與骨儀來到，傳命官監回來說：“衛玄臥病在床，不能前來，請求代王恩準。”
楊侑一聽，又急又氣地埋怨道：“衛玄身為主要留守大臣，當此危難之時，借口生病，豈不辜負了皇上重托！”
陰世師趁機說道：“我多次找他議事，衛玄一直閉門稱病，難道這老東西想投降李淵嗎？”
骨儀對軍事是外行，一直分管司法工作，知道陰世師與衛玄有矛盾，便說道：“衛玄一向忠於朝廷，在平息楊玄感叛亂時，立有大功。皇上一直信任他，我認為他不會投降李淵的。”
陰世師不滿地說：“忠於朝廷，說得倒好聽，現在又有幾人是忠於朝廷的……”
骨儀立刻打斷他的話，問道：“你這話是什麼意思？好像隻有你一人忠於朝廷……”
陰世師正想發火，姚思廉急忙說道：“請二位留守大臣冷靜一些，各自少說一句吧！李淵大軍攻城在即，還是抓緊時間商議一下守城的方略，謀劃一下退軍之策，方不負朝廷的厚恩。”
陰世師聽後，仍然不滿地說：“謀劃什麼？說來說去，還不是我一人去領兵守城？名義上三個留守大臣，一個閉門稱病，一個借口不懂軍事，隻有我找不出理由，我隻有抱定宗旨，決心不負皇恩，誓與長安共存亡！”
代王一聽，也不管他說話是不是真心，立刻離開座位，走到陰世師麵前，眼淚汪汪地說：“大將軍真是當朝的一大忠臣啊！你若能打敗李淵的軍隊，保住國都的安全，我一定向皇上保奏你官居一品……”
楊侑還想給陰世師彎腰施禮，被他一手挽住，說：“代王千萬不能！我陰世師父子兩代深受皇恩，縱然戰死在長安城頭，也在所不惜！”
骨儀也說道：“請代王放心，我骨儀雖然不習軍旅，也要參加守城，隻要陰大將軍給我任務，我決心不負皇恩。”
姚思廉說道：“城內軍隊不下三萬，隻要兩位留守大臣同心協力，加上城牆堅固，李淵也難打進城來。”
代王楊侑說：“聽說屈突通仍在河東駐守，他不僅有勇有謀，還是一位忠臣，能眼看長安有急，不來相救嗎？”
陰世師說道：“河東離長安不遠，屈突通不能支援，可能被李淵的軍隊擋住了，來不了，這叫遠水不解近渴。”
他剛說完，骨儀忙說道：“當初衛玄派屈突通去河東駐守時，我就提出意見，想讓屈突通留在國都守城，但是衛玄堅持不答應，反埋怨我幹預軍事呢！”
陰世師冷笑道：“你不是不懂軍事嗎？怎麼又能提出建議呢！”
骨儀說：“你有所不知，當時有個名叫李藥師的賢士，他到我家裏說：‘把重兵調出去了，這長安不是空虛了嗎？’我對他說：‘我不懂軍事，這是衛文升的主意。’”
陰世師接著說：“如今衛文升不問事了，留下這麼一個爛攤子甩給了我，這算什麼忠臣？”
姚思廉又把話題引回來，說道：“聽說皇上派重兵前往東都，一旦破賊，必來援救長安，到那時，李淵可破，長安定能解圍。”
楊侑說：“就盼望那一天早些到來了。”
此時，宮監進來報告道：“李淵派來的使者在城外，喊了快半天了，他請求進城，口口聲聲——”
陰世師急忙打斷富監，大聲說：“別信他的鬼話，這是李淵耍的計謀，絕不能讓他進城！”
代王楊侑卻向宮監問道：“那使者怎麼說的？”
那位宮監又接著報告：“使者說得倒好，說李淵不是反隋，而是尊隋，還要扶立代王當皇帝呢！”
陰世師冷笑道：“李淵真狡詐！他說不反隋，為什麼要把宋老生殺了？他既要當婊子，又要立牌坊！”
骨儀也說道：“李淵說他不反隋，為何不帶軍隊去東都打李密，卻來包圍國都？”
這時候，姚思廉卻說道：“我以為，對李淵可以將計就計。”
陰世師忙問：“什麼將計就計？請侍讀大人說明白。”
“李溯既然請求讓他的使者進城來，我們不妨就把他的使者放進城”，姚思廉看著代王楊侑繼續說下去，“答應不答應是我們的事，這樣可以拖延一段時間，時間越長，對我們不是越有利嗎？”
代王楊侑也說道：“時間拖長了，我們的援軍說不定就能來了，到時，再跟李淵對抗也不遲！”
陰世師聽了，連忙擺手說：“千萬不能啊！你們哪裏知道，城內的將士一聽李淵的軍隊有二十萬早就有了害怕心理，一旦讓使者進城，軍心必將更亂，誰還去認真守城？豈不是正中李淵的奸計了？”
代王楊侑說道：“不要公開嘛！我們讓那使者悄悄地進城，別讓守城的將士們看見呀！”
“那更不行！如今長安城四門緊閉，一旦打開城門，誰能藏得住？何況李淵又專門派人在城外叫嚷，城上的將士能聽不見？”陰世師一邊擺手，一邊搖頭，十分不滿地表明他的意見，而且表現出很不耐煩的情緒。代王楊侑歎了一口氣，看著他的侍讀姚思廉說：“聽說這李淵也是皇室宗親，又世受朝廷皇恩，他若能真心匡扶帝室，尊我為王，也是一條出路啊！”