房玄齡立刻找到李世民的妻兄長孫無忌商量說：“現在嫌隙已成，直接衝突一觸即發了，而這次衝突一定會影響到國家的統治。”他建議“遵周公之事，外寧華夏，內安親社”，意思是效仿周公除掉管叔、蔡叔以此來使周室安定，除掉李建成和李元吉的勢力，來穩定剛剛建立的唐朝統治。隻有這樣才可以使天下安定，使皇室爭鬥平靜下來。長孫無忌把房玄齡的策劃轉告給李世民，李世民表示同意並召見了房玄齡，深入謀劃這場皇室變革。這樣一來房玄齡、杜如晦、高士廉，以及大將侯君集、尉遲敬德就形成了秦王府政變策劃的核心。皇宮之中無秘密，況且太子李建成早就有除掉李世民的想法，所以當他聽說了以房玄齡為首的秦王府的密謀，也開始了自己的活動，太子李建城一直視房玄齡、杜如晦二人為眼中釘肉中刺，早就想將兩人驅除出宮廷，於是李建城在唐高祖麵前歪曲事實，將兩人的成績說成失誤，卻沒有想到的是唐高祖居然偏聽偏信，把房玄齡和杜如晦驅斥出秦王府。鬥爭越來越緊張，秦王府的兩員大將居然被逐出宮，爭鬥已經到了不得不發生的程度，所以房玄齡日夜勸說李世民先行下手，說：“事情已經十分緊迫了。為了保住江山，應決心大義滅親。如果再當機不斷，隻能被動挨打了！李建成一旦占據主動，我們的行動就會落空了。”李世民覺得畢竟是手足兄弟，但形勢已經不容他選擇了。終於下了決心，而且房玄齡、杜如晦也喬裝成道士潛回秦府，同眾謀士一同詳細做好最後的計劃，最終定於公元626年的6月4日起事。史稱“玄武門之變”。政變當日，李世民殺死了李建成，大將尉遲敬德殺死了李元吉。不久，唐高祖李淵自動退位，讓位給李世民，改元貞觀。“玄武門之變”最後以李世民提前繼位結束。至此房玄齡完成了助主稱帝的大業。
李世民繼位後成為唐太宗，太宗鑒於自己的謀臣將士功勞很大，開始對各大臣論功行賞，太宗認為房玄齡、杜如晦、長孫無忌、尉遲敬德和侯君集應當論功第一，命房玄齡晉爵為邢國公。而太宗叔父淮安王李神通卻認為，政變時是他率兵先到現場的，而房玄齡、杜如晦隻不過是在幕後動動筆墨，在評功之時房杜等人排第一，他心中不服。太宗反駁說，“起義剛剛開始的時候，每個人心裏都有自己的想法。您雖然率兵前來作戰，那也是因為懼怕因此會株連九族被殺掉，而且從未親自上陣打過仗。與竇建德交手，您還曾全軍陷沒；後來劉黑闥起兵，您又望風敗逃。如今論功行賞，房玄齡等人運籌帷幄，幫助我安定國家，這樣的功勞和漢朝蕭何相同，雖然他沒有上戰場殺敵，但無他的計謀，今天的勝利又是從何而來呢？當然應該評為首功。叔父您為國家至親，我並不吝惜封賞您，但不能因咱們之間的私情就將功臣的成績給淹沒了呀！”一席話之後，李神通無言以對。
公元630年，即唐太宗登基的第四年，房玄齡任尚書左仆射，行宰相之職。
輔佐太宗成就霸業
自李世民繼位之後，房玄齡一直承擔著輔佐李世民的重任，直到病故。可以說房玄齡把自己的一生都奉獻給了唐朝初期的建設。在這將近二十年的時間裏，房玄齡一直兢兢業業，絲毫不敢懈怠地履行著自己的使命，他的貢獻為“貞觀之治”盛世的出現奠定了重要的基礎。
在此期間，房玄齡主要有以下的貢獻。
首先，因為唐朝初年的時候，官僚機構極其臃腫，有了事情到官府裏麵都是互相推諉，官員的人數特別巨大。在李淵打天下的過程中，急切需要人員補充到隊伍中來，在向關中進軍的過程中，民間年紀在七十歲以上的，就任命一個官職給他，而並沒有具體的讓他們要做的事情。其餘的才智傑出的人員，根據他的才能授以相應的官職，草草的詢問他一下所擅長的能力，馬上就授予他官職，一天就能任命官員將近千餘人。所任命的官員們，都來不及拿上授官時發給的文書憑證，就各自拿著李淵給他們寫的官名就走了。這些原因，直接造成了貞觀初年，唐朝的中央管理機構的臃腫，官員人數的極其膨脹，而且所用到的官員的品質、能力也是良莠不齊。