主管人事的隋朝吏部侍郎高孝基對人評價他說：“我看人多了，從來未見到這樣的年輕人，他將來一定會成為了不起的人。”
走上仕途投明棄暗
帶著眾人的讚譽，房玄齡十八歲時，被本州推舉為進士，朝廷授予羽騎尉（羽騎尉，是校尉名，隋唐時增設該官職）的官職。雖然被朝廷任命，但房玄齡早就看到了其中的弊端。所以煬帝大業十三年（617年），李淵在太原起兵，李世民被派到渭北攻打隋軍。房玄齡早就聽說李世民驍勇善戰，自小便文韜武略樣樣精通，而且喜歡有學識的人才。早就厭倦了隋王朝的房玄齡，認為這是一個脫離隋王朝的好時機。這時正任為隋隰城（今山西汾陽）尉的房玄齡，終於“杖策謁於軍門”，毅然脫離了隋王朝。當時李世民“徇兵渭北”，主要指涇陽（今陝西涇陽）、雲陽（今陝西三原西）、武功（今陝西武功西北）一帶，這一地區離隰城距離約有七、八百裏之遙。
房玄齡是徒步追尋李世民的，為了能夠加入他的軍隊付出了相當大的辛苦。終於在李世民攻占渭水北邊的土地時，房玄齡到軍門求見，向李世民毛遂自薦。李世民與房玄齡一見如故，雙方都感覺像是遇見了知己。而且當時著名的文學家溫彥博也在李世民的旗下，他對房玄齡的才華早有耳聞，所以也向李世民大力推薦他，最終李世民讓他代理渭北道行軍記室參軍。一員猛將，如果遇到了賞識自己的主人，又有讓自己施展才華的戰場，當然會全力以赴、用盡心力地打拚。
正如房玄齡所預言的，由於隋末煬帝的苛酷暴政，壓榨百姓供己享樂，使得民不聊生，怨聲載道。李世民不忍心看見百姓身處痛苦中，於是力勸李淵起兵推翻暴政，最後終於在兒子——李建成、李世民的協助下滅了隋朝。煬帝大業十四年（618年）五月李淵在長安滅隋建立了新朝代，國號唐。李世民被封為秦王，房玄齡就開始了在秦王府對李世民的十年輔佐。
秦府十年助主稱帝
房玄齡自從開始跟隨李世民，就開始將自己所有的心思放在了輔佐李世民上。很快他的才能就展露了出來，他時時處處都以自己的團隊利益為重，比其他的文臣武將思想更為深刻，更有著政治眼光，看得遠、想的全麵。
比如，在李世民攻打隋朝建立唐朝的戰爭中，每打勝一處，眾人都隻想著要分金銀財寶，無人考慮被俘人員的去留，更沒人去想在其中選拔人才以備以後治國之用。
唯獨房玄齡考慮到了這一點。他考慮要將其中的謀臣猛將召集在李世民的旗下，共謀發展。所以房玄齡在這一過程中，有意結交了許多有才能的謀臣猛將為友，結成了一派很大的勢力。這就等於為李世民招賢納士，搜羅人才。而與房玄齡齊名的杜如晦，就是由房玄齡發現並努力保護其留下的，最終成為股肱之臣。杜如晦，字克明，京兆杜陵人。其祖父杜果官至隋朝工部尚書，其父杜吒為隋朝昌州長史。杜如晦與房玄齡一樣出自書香門第，自幼聰慧，喜好文學曆史，也是一個很有見解的人才。