唐太宗在加強立法工作的同時，在行政管理和軍事改革方麵的功績也十分卓著。
唐太宗要求各行政職能部門能夠秉公辦事，並注意調整各部門之間的關係，特別是中書省和門下省的關係，要求他們互相監督。
唐太宗認為，一支精簡高效的官吏隊伍是國家管理的最大財富。隋朝末年，為了反抗隋煬帝的殘暴統治，許多人招兵買馬，割據一方，占地為王。唐朝建立以後，唐高祖李淵設置州府、縣衙，封他們為官。因此，唐初州、縣的數目，比隋文帝時期大約要多一倍。唐太宗即位以後，立即著手革除這種官吏過多的弊病。他精簡機構，人盡其用，於是就出現對官吏如何選拔的問題。他以“四善”作為考核的標準，即：品德高尚、政績卓著、辦事公道、勤奮認真。符合“四善”的人才可以被提拔作為政府的官員。這種隨時注意考核、擇優任用官吏的政策，調動了官吏的積極性。
唐朝所轄地域產大，僅僅靠中央政府治理國家顯然不切實際。中央政府隻能就國家事務做一個原則上的規定，具體政策還是要依靠地方官吏去施行。因此，地方官員隊伍的建設就顯得尤其重要。
早在貞觀二年（公元628年），唐太宗就曾對大臣們說：“我朝地域廣大，國家的長治久安依賴地方官吏的秉公行政。我身處皇宮之中，對天下事無法事必躬親，地方上的都督、刺史就是我的左膀右臂，我最擔心的是都督、刺史是否勝任安撫百姓的重任，能否讓百姓們安居樂業。我特意在我臥室的屏風上記下他們的姓名，無論坐著還是躺著都經常看他們，誰做了好事，我就記錄在他的名字下邊。這些人決定著國家的安危，必須要稱職。”唐太宗對地方官吏的選拔、任用非常上心，但是缺少切實可行的辦法去對他們進行很好的管理。
博州荏平有個名叫馬周的人，雖然滿腹經綸，很有才幹，卻賦閑在家無事可做。貞觀五年，馬周來到京城長安，暫時居住在中郎將常何家中，做了他的門客。一天，唐太宗詔令百官，要求大家上書議論政事得失。第二天，常何帶著自己的奏折，將它交給了唐太宗。唐太宗看了常何的奏折之後，不禁暗暗稱奇，因為奏折上所言的都是針對當今情況的真知灼見，這二十多條治國安民的具體措施樣樣都合自己的心意。要知道，這常何出身行伍，對文字以及國家治理一竅不通。大家對這件事情感到奇怪，都驚奇常何為什麼一夜之間就得出這麼多的好主意。唐太宗知道這些建議一定不是常何所提，其後必有高人。於是，就問常何提出這些建議的人到底是誰，常何就老老實實地說是家裏的門客馬周的主意。
唐太宗一聽此話，斷定馬周是個人才。他望才心切，當天就召見馬周。但是，馬周平常閑雲野鶴慣了，不願受官府的束縛，所以就借故推辭，遲遲不到。唐太宗求賢若渴，如劉備一般三顧茅廬，四次派人前去催促。馬周見唐太宗情真意切，被深深打動，於是就同意見太宗。到馬周謁見時，唐太宗同他就國家大事徹夜長談，相見恨晚，相談甚歡。馬周知識淵博，才思機敏，善於辯論，而且分析問題能夠抓住根本，入木三分，這讓唐太宗非常高興，不久就提升他做監察禦史。