在治理國家的整體方略上，尤其是在大亂之後撥亂反正方麵，魏征主張宜快不宜慢，宜急不宜緩。唐太宗即位之時，天下初定，百廢待舉。一天，他問魏征說：“賢明的君主治理好國家也該需要百餘年的時間吧？”魏征不同意他的想法，他認為：“聖明的人治理國家，就像聲音立刻就有回音一樣，一年之內就可見到效果，三年見效就太晚了，怎麼要等百年才能治好呢？”尚書仆射封德彝認為：“自古以降，人心日下，日趨奸詐，秦用嚴刑，漢用霸道，都沒把人心教化成功，魏征想用這些滿是書生氣的話來治理國家，那必然敗亡。”魏征則針鋒相對地說：“大亂之後治理國家，就像餓極了的人要吃東西一樣，來得更快。如果人心是如流水一般向下墮落，今天的人也都成了鬼怪，還談什麼治理國家呢？行帝道則帝，行王道則王，事在人為，而不是人民是否可以教化。”唐太宗基本聽從了魏征的意見，積極采取有效措施，隻過了兩三年，唐朝就出現了“貞觀之治”的局麵，這在中國曆史上是極為少見的。
在執法方麵，魏征主張寬緩明確。他堅決反對像秦朝那樣實行嚴刑酷法，把人民當做魚肉來宰割；但同時又堅決主張明正典刑，反對徇私枉法。一次，唐太宗任命盧祖尚為交州刺史，盧祖尚開始答應了，但又反悔托病辭命，唐太宗當麵勸他，他還是不肯去。唐太宗一怒之下，當時就把他殺了。事後，唐太宗覺得自己做得太過分了，認為沒按法律辦事，魏征就借議論北齊皇帝高洋批評唐太宗說：“高洋覺得自己理虧了還能向別人認錯，這也是他的長處。”唐太宗也借機表示後悔。
濮州刺史龐相壽是唐太宗做秦王時的老部下，在任上因貪汙被人告發，受到了追回贓物、解除職務的處分。龐相壽向唐太宗求情，唐太宗覺得於心不忍，就送給他一百匹絹，讓他繼續去做刺史，隻是告訴他以後千萬不可再貪汙了。魏征知道後，就對唐太宗說：“您這是徇私枉法。龐相壽犯了罪，您還給他優厚的賞賜，讓他留任原官，您做秦王時的部下很多，如果他們都照龐相壽的樣子犯罪，那您怎麼辦呢？”魏征還對唐太宗說：“獎賞的時候，不要忘了疏遠的人；懲罰的時候，不要給親貴留情。要以公平為規矩，以仁義為準繩，才能讓人心服。”在魏征的堅持下，唐太宗不得不同意原來的處理方案。
魏征還主張取信於民，不要朝令夕改，讓人無所適從。唐朝原定政策是十八歲的男子才能參加征兵服役，有一次，為了多征兵戍守邊境，唐太宗要求十六歲以上的男子全部應征，魏征不同意。按照當時的規定，皇帝的命令要等與會的大臣全部簽字以後才能生效，魏征認為這個法令與唐朝以前的法令相衝突，而且過於苛刻，便屢次拒簽。唐太宗十分生氣，當麵責問他為什麼阻撓皇帝的命令，魏征回答說：“涸澤而漁，焚林而獵，是殺雞取卵的做法。兵不在多而在精，何必為了充數，把不夠年齡的人也弄來當兵呢？況且這也失信於民。”唐太宗問自己是否有失信於民的事，魏征列舉了一串例子，證明他辦了不少出爾反爾、失信於天下的事，把唐太宗弄得張口結舌。最後，唐太宗不得不同意了魏征的意見。
唐太宗知道自己很容易受情緒的左右，就提醒周圍的大臣注意糾正他偏激的決定，並把批評朝政製度化。他建立了前朝所沒有的新製度，即允許諫官、史官參加政事堂會議。這種製度不僅能夠保證諫官、史官及時了解朝政的內幕，使其有所勸諫，還起到了一定的監察作用，使宰相及其他官員不敢謊報政績。這種製度還規定，在會議之上，不管是皇帝還是大臣，如有過失和不當之處，諫官可當麵指出，予以辯論。再者，史官也了解皇帝大臣的許多情況，根據第一手材料寫出起居注，對他們也是一種監督。
魏征就是在這種相對寬鬆自由的環境裏做諫官的，他勸諫的內容從長治久安的軍國大計，到皇帝個人的起居生活，涉及許多方麵，對唐太宗及唐朝貞觀年間的政治產生了很大的影響。
在使用人才方麵，魏征主張不同的時期要對德才有所取舍。他對唐太宗說：“在天下未定之時，用人的標準是重視才能，不過多地考慮他的品德操行；天下平定以後，則非德才兼備不可用。”在魏征的影響下，唐太宗“內舉不避親，外舉不避仇”，有一次，他還主動地對魏征說：“選擇任用官吏，是不能輕率馬虎的。用一個君子，那麼君子就會紛紛而來；用一個小人，那麼小人也就會鑽營投奔而來。”