公元617年，李淵、李世民父子在太原起兵，西渡黃河，進軍關中。九十月間，李世民“循地渭北”，38歲的房玄齡“杖策謁於軍門”從此告別了“廿年作吏苦風塵”的歲月，神采飛揚地走上隋末唐初的政治舞台。
20歲的李世民和38歲的房玄齡一見如故。李世民任命房玄齡擔任渭北道行軍記室參軍，引為謀主。而房玄齡得遇知音，喜不自勝，“罄竭心力，知無不為”。
在預見性判斷方麵，房玄齡是一位天才。史書載：“玄齡幼聰敏，博覽經史，工草隸，善屬文。”他在十幾歲的時候曾經跟隨他父親房彥謙到京城去，當時隋文帝楊堅在位，勵精圖治，海內清平，人們一派安居樂業長享太平的陶醉相，房玄齡卻私下對父親說：“隋帝本無功德，但誑惑黔黎，不為後嗣長計，混諸嫡庶，使相傾奪，儲後藩枝，競崇淫侈，終當內相誅夷，不足保全家國。今雖清平，其亡可翹足而待。”這一番話讓房彥謙“驚而異之”。
讓房彥謙驚異的不是這一判斷，因為房彥謙自己也有類似的看法。在隋朝平陳，統一全國之後，房彥謙曾說過：“主上忌刻而苛酷，太子卑弱，諸王擅權，天下雖安，方憂危亂。”房彥謙驚異的是房玄齡小小年紀，竟能作出這樣深遠的預見性判斷。房玄齡多謀在隋朝最為鼎盛的開皇年間，房氏父子能作出這樣的判斷，確實算得上是“眾人皆醉我獨醒。”而房玄齡所指出的幾個問題，也都是隋朝政治上的痼疾，後來演變成動搖隋朝統治的重要因素。我們不妨參照史實，具體分析一下房玄齡的這個判斷。
房玄齡見微知著，是從小的方麵著眼，看到了隋朝內在的矛盾和危機。概括起來說有三個方麵，一是隋文帝“本無功德”，二是“混諸嫡庶，使相傾奪”；第三是後宮幹政的問題。這三個麵又有著很密切的聯係，因而問題就更複雜，更難解決。
眾所周知，隋文帝楊堅是通過政變奪取了北周的政權，建立起隋朝的統治。得國容易，心不自安，隻怕人心不服，常存警戒之心。他奉行兩種方法來穩固自己的統治：一是節儉，二是誅殺。節儉治國，放之四海而皆準，有利於減輕民眾負擔，絕對不錯，隋朝的繁榮也證明了這一點；第二條辦法則不大妙。誅殺雖然有壓製豪強的作用，但負麵影響卻不可低估，兩相比較，過大於功。隋文帝憑借個人權術，經常派人偵察內外官員。發現過失和罪狀，一律重罰，功臣舊人，多因小過重罰，殺逐略盡，隻有極其狡猾凶殘的楊廣和楊素等人，才得免於網羅。隋文帝令人定刑律，意在寬平，他自己卻不按刑律辦事，一不高興就在朝廷上杖殺官吏，搞得臣下人人自危，不敢進忠言招禍，甚至不敢作官，能作大官並取得信任的隻能是楊素之類的奸人。隋文帝信不過臣下，事無巨細都要親自管，胡子眉毛一把抓，把自己累得夠嗆，把事情卻沒辦好。
隋文帝為了防止文臣武將權力過重，就把兵權授予自己的兒子楊廣、楊俊等，沒想到諸子統兵的危害性更大，最直接的後果就是個人勢力滋長，都在圖謀奪取皇位繼承權。秦王楊俊因為奢侈受到懲罰，而狡詐的晉王楊廣卻聲色犬馬不斷，又不為楊堅所知，最後通過獨孤皇後和楊素等，構陷太子楊勇，最終奪取了皇位並斷送了隋朝的江山。
隋文帝楊堅的皇後獨孤氏是鮮卑大貴族，“家世貴盛而能謙恭，雅好讀書，言事多與隋主意合，帝甚寵憚之，宮中稱為‘二聖’。帝每臨朝，後輒與帝方輦而進，至閣乃止。使宦官伺帝，政有所失，隨則匡諫。候帝退朝，同反（返）燕寢。”這位皇後和楊堅一樣，崇尚節儉，在參政之初還能大義滅親，聲譽尚好；到後期卻再三幹蠢事。開皇十三年，隋文帝派楊素監造仁壽宮，十五年建成，隋文帝“見製度壯麗，大怒曰：‘楊素殫民力為離宮，為吾結怨天下。’”楊素嚇得發抖，善於揣摸領導意圖的封德彝卻說：“公勿憂，俟皇後至，必有恩詔。”果然如此，第二天獨孤皇後對楊素說：“公知吾夫婦老，無以自娛，盛飾此宮，豈非忠孝！”並賜錢百萬。這說明獨孤後已一改早年的節儉而求奢侈，是非界限也搞不清了，她還因睚眥之怨，懷恨丞相高，再三再四地吹枕邊風，誣陷離間，使得高免官、入獄、除名為民。高是開國元勳，也是楊堅晚年為數不多的直諫之臣，是隋室的一根擎天柱。獨孤後迫害高，楊廣後來又殺高，正是自毀長城。
在太子楊勇和晉王楊廣爭嗣的過程中，獨孤後錯誤地站在楊廣一邊，不停地勸楊堅廢楊勇、立楊廣，楊素等人又“舞文巧詆，鍛煉以成其獄，”終於把楊勇從太子寶座上拉了下來，楊廣攫取了皇位繼承權。楊堅在病危之際終於認清了楊廣的本質，大喊：“獨孤誤我！”
也許是家風使然，楊勇的妃子雲昭訓張狂豔乍，楊廣的妃子蕭氏與楊廣矯飾作態，都出醜丟人，為人所譏。
隋開皇年間存在的這些問題，後來都釀成惡果，但在當時並沒有很明顯地暴露出來，所以人們很樂觀，以為好日子剛開了個頭。十幾歲的房玄齡能一語中的，其見識和判斷確實非凡。
房玄齡18歲時被本州舉進士，授羽騎尉。有知人之明的吏部侍郎高孝基對房玄齡的評介是：“仆閱人多矣，未見如此郎者。必成偉器，但恨不睹其聳淩霄耳。”
之後的20年間，房玄齡作為羽騎尉、隰城尉一類的小官，懷才不遇，眼看著他所預言的事情一點點地發生，而他本人隻能守著薄俸，苟全性命，默默地等待。這一等就是20年，人生苦短，能有幾個20年呢？時光如逝水，房玄齡在苦等中備受煎熬。他也許會後悔自己太性急了，說了個“其亡可翹足而待。”這一“翹足”就是20多年，可以算是一項前無古人的紀錄。
李世民橫空出世，房玄齡一眼就看準了，這就是他等待20多年的主人，於是毫不猶豫地上門投奔。在李世民部下，房玄齡的忠誠與自覺無人可比，他把李世民的事情看得最重，把李世民的利益看得最高。每次打了勝仗，“眾人競求珍玩，玄齡獨先收人物，致之幕府。及有謀臣猛將，皆與之相申結，各盡其死力。”也就是替李世民網羅人才，交結英雄，形成秦王派勢力。最顯著的例子是向李世民舉薦杜如晦。房玄齡說得明白：“必欲經營四方，非此人莫可。”其目的就是要保證李世民一統江山，登上皇位，而不是乖乖地做個藩王。可以說，房玄齡在投奔李世民之日，已經預見到了以後的皇位繼承權之爭。
房玄齡和杜如晦跟隨李世民平定薛仁杲、劉武周、王世充、竇建德等，房玄齡“善建嘉謀，”杜如晦“能斷大事”，與李世民配合默契，功勞卻全記在李世民的賬上。後來有人評論說：“玄齡佐太宗定天下，及終相位，凡32年，天下號為賢相；然無跡可尋，德亦至矣。”“無跡可尋”四個字是很耐人尋味的。所以，可以認定，李世民所作的一些決策，應該看作是李、房、杜三人小組的決策。
武德七年以後，李建成和李世民爭奪皇位繼承權的鬥爭逐步激化，最後達到了你死我活的程度。有一天夜裏，李世民去太子府赴宴，中了毒，吐血數升，由李神通扶了回來。這一事件讓秦王府上下震駭，不知道如何處理。危急關頭，房玄齡首建嘉謀，對長孫無忌說：“今嫌隙已成，禍機將發，天下洶洶，人懷異誌。變端一作，大亂必興，非直禍及府朝，正恐傾危社稷。此之際會，安可不深思也！仆有愚計，莫若遵周公之事，外寧區夏，內安宗社，申孝養之禮。古人有雲：‘為國者不顧小節’，此之謂歟。孰若家國淪亡，身名俱滅乎？”長孫無忌說：“久懷此謀，未敢披露，公今所說，深會宿心。”於是把這一計謀報告了李世民。李世民召見房玄齡問計，房玄齡力勸李世民除掉李建成，並說這是天意。六月四日玄武門兵變的前夕，李世民讓長孫無忌和尉遲敬德秘密召回被李淵貶官歸家的房玄齡和杜如晦，為了遮人耳目，房玄齡和杜如晦化裝成道士，由長孫無忌領入秦王府，尉遲敬德從別的路回去。一幹人密謀策劃，終於在六月四日早晨發動兵變，殺掉了太子李建成和齊王李元吉。
李世民在太子的位子上過渡了一下就登上皇位，改元貞觀，是為太宗。尊李淵為太上皇。即位不久，就任命房玄齡作了中書令。論功行賞，以房玄齡、長孫無忌、杜如晦、尉遲敬德、侯君集五人為第一。唐太宗李世民對群臣說：“朕敘公等勳效，量定封邑，恐不能盡當，各許自言。”此言一出，文武群臣都得了暢所欲言的機會，朝廷上熱鬧非凡，有的攘袂指天，有的以手劃地，都說自己的功勞大。李世民的本家叔父淮南王李神通首先跳了出來說：“義旗初起，臣率兵先至。今房玄齡、杜如晦等刀筆之吏，功居第一，臣竊不服。”李世民毫不客氣地回答：“義旗初起，人皆有心。叔父雖率得兵來，未嚐身履行陣。山東未定，受委專征，建德南侵，全軍陷沒，及劉黑闥翻動，叔父望風而破。今計勳行賞，玄齡等有運籌帷幄、定社稷之功，所以漢之蕭何，雖無汗馬，指推轂，故得功居第一。叔父於國至親，誠無所愛，必不可緣私，濫與功臣同賞耳。”李神通被駁得啞口無言，剛才還吵吵鬧鬧的將軍們一看李神通討了個沒趣，趕緊閉上嘴，把一肚子的意見又咽了回去。