李元吉又派程咬金為康州刺史。程咬金告訴李世民說：「秦王身邊之羽翼，若盡被折斷，又能存活多久？咬金誓死不去康州，希望秦王能早下決定。」
李世民仍然躊躇無法決定，突然間又接到詔敕，命令房玄齡、杜如晦兩人，離開秦王府，於是秦王府的幕僚，人人自危。長孫無忌是李世民的妻舅，與房玄齡是莫逆之交，房玄齡私下對他說：「今秦王與太子嫌隙已成，禍亂將要發生，如果不早一點謀策，將禍及社稷。你與秦王關係匪淺，若不勸秦王學周公起兵，保全國家，存亡安危，就在今日。」
長孫無忌告知李世民，李世民又召問杜如晦，杜如晦亦勸李世民聽從房玄齡所言。其他的秦王府門客，無不慫恿李世民，趕快訂定大計，隻有李靖、李世績兩人，不發一言。
那時突厥兵又來犯邊界。李建成推薦李元吉為大元帥率軍北討，高祖就將軍隊交給李元吉。李元吉請調尉遲恭為先鋒，並調派秦王府精兵，一同討伐突厥軍，尉遲恭與長孫無忌，秦王府向李世民說道：「秦王，再不做決定，禍事就在眼前。」
李世民說：「同是兄弟，如何忍心下手？」
尉遲恭回答：「誰能不怕死？眾人都願意以死事奉秦王，這就是所謂的天意。天意如此卻不爭取，必定招殃，秦王何必因為小小仁慈，而不顧大局？」
李世民沉默不答。之後有率更丞唐府官名王晊王府，王晊好像有話要說，但是因為看見長孫無忌與尉遲恭兩人在李世民身旁，一時不敢說出。李世民發現王晊臉色有異，於是起身與王晊到密室密談。王晊說了幾句話，就立刻退出王府。
李世民告訴長孫無忌說：「剛才王晊來報，齊王已經跟太子計謀，欲引我與太子到昆明池，為齊王餞行，然後在席前埋伏勇士，置我於死地，太子答應死後以兄弟禪讓，立齊王為皇太弟。」
長孫無忌不等待李世民說畢，便向李世民說道：「先發製人，後發為人製。」
李世民歎道：「骨肉相殘，古今之大惡，我明明知道禍在旦夕，但需要等待他們先發，然後再仗義出兵征討，才能出師有名。」
尉遲恭在旁邊接著說道：「秦王若再不聽敬德的話，敬德就不能留在秦王的左右，與其我們等人束手就殺，還不如就此請辭。」
長孫無忌接著說：「秦王若不聽從敬德的話，無忌隻有跟從敬德一起離去。」
在一推一扯之間，世民不得不依。李世民再召集秦王府幕僚會議，大家齊聲說道：「秦王認為舜的為人如何？」
李世民笑道：「舜是古時聖人，何必這樣問？」
眾人再說：「假使舜依照他父親的命令，鑿井而不出，必定全身覆蓋泥沼而死；修補屋而不下，必定被火燒成灰燼，怎能恩澤於天下，施法於後世？秦王既然知道舜為聖人，何不權宜行事？」
李世民說：「且問諸龜卜卦，再做決定。」
眾人取龜殼為卜，突然有一人，將龜殼丟在地上說道：「用卜卦決定疑惑，若不疑惑又何必卜卦，今日箭在弦上，不得不發，難道卜卦顯示不吉，就就此罷手？」
那人說話爽快，李世民仔細看他，原來是幕僚張公謹，便說：「難道如你所言，事情就可行？」
張公謹說：「非但可行，而且還要盡速實行。」
李世民聽此話，乃下定決心。立刻叫長孫無忌，密秘召見房玄齡與杜如晦二人定訂計策。房玄齡、杜如晦均向長孫無忌推謝：「今日皇帝敕旨命令我們二人，不得再事秦王，若今日私下麵謁，如被發現，必判死罪，所以不敢奉教。」
長孫無忌將他們的話回報給李世民，李世民不禁動怒，拔出佩刀，交給尉遲恭：「房玄齡、杜如晦怎敢背叛我？你持刀前往觀看，若他們二人果真沒有來意，就用我的刀殺了他們，帶他們的首級回來。」
房玄齡、杜如晦二人隻不過是做戲，要確認李世民已下定決心。尉遲恭於是與長孫無忌同行，見了房玄齡、杜如晦二人，即跟他們說道：「秦王已經下定決心，你們趕快速入秦王府。」
房玄齡說：「若我們四人一同去，恐怕會惹人注目，最好是各走各的路，我與如晦，改裝之後就立即前往。」
於是房玄齡、杜如晦皆改穿方士裝，令長孫無忌先行，他們之後陸續前往，尉遲恭獨自一人繞道回秦王府。李世民立即與房玄齡、杜如晦等人定下密謀，隔天照行。
當晚，太白星出現，太史令傅奕，密奏高祖太白星顯現秦野，秦王當擁有天下，高祖閱讀傅奕密奏後，剛好李世民入朝，拿起奏本給李世民看，說他的是非，李世民退去左右，向高祖密陳李建成、李元吉，後宮之事實。
高祖一聽大驚：「真有這種事？」
李世民又說：「兒臣自認，從來沒有辜負兄弟，偏偏他們二人時時想加害我，說是替王世充、竇建德報仇，兒臣若真的枉死，將永別父王，可說是至悲至痛之事，且魂歸地下，亦愧見諸賊，還乞求陛下恩情救命。」
說完，竟嗚嗚咽咽的哭了起來。高祖亦愕然說道：「明日我自當親自審問他們二人，你也一起參加。」
李世民應許歸回秦王府，立即在半夜裏調兵，命長孫無忌等人帶領，前往玄武門埋伏。還沒有天亮，李建成、李元吉已經由張婕妤密遣內侍，知道李世民密奏的情形。
李元吉即告訴李建成說：「今日入朝，恐防有變，不如告病在家，不去上朝。」