玄武門之變是李淵完全沒有想到的事情。他作為父親，愛他的兒子，尤其這幾個兒子在創立大唐帝國的過程中都有所表現，做出了程度不同的貢獻，這樣他們和李淵之間不但有父子關係，還有特殊的君臣關係，這些兒子都可以算是大唐帝國的開國元勳，所以當兒子們發生爭奪皇位繼承權的鬥爭時，李淵總是盡量排解，甚至不惜把國家一分為二。然而他的努力完全沒有用，在權力的引誘下，兒子們互不相讓，終於以你死我活的拚殺來作出最後的結論。李淵不得不認真地觀察他僅存的這個嫡子李世民，看把這個費盡心力奪來的江山交給他，是否會有遺憾。
李淵首先看到的就是殘酷的仇殺，李建成的五個兒子，即安陸王李承道、河東王李承德、武安王李承訓、汝南王李承明、钜鹿王李承義；李元吉的五個兒子，即梁郡王李承業、漁陽王李承鸞、普安王李承獎、江夏王李承裕、義陽王李承度，全部被李世民派去的軍隊殺死。這是李淵的十個孫子，但在這場你死我活的政治鬥爭中，作為皇帝的李淵完全無法營救。
李淵想更大規模的屠殺是不可避免了，他隻有躲在皇宮裏假裝不知道。然而，他後來聽到的卻是一些他意想不到的消息，他發現即將接替他做皇帝的這個兒子，原來有著非凡的氣度和能力。
就在玄武門之變的當天，李世民的部下在闖入太子東宮和齊王府盡誅李建成、李元吉的十個兒子的同時，又逮捕了李建成、李元吉的親信一百餘人，他們向李世民建議將這一百餘人全部誅殺，並且把他們的家人籍沒為國家奴隸。尉遲敬德有不同意見，他對李世民說：“罪在二凶，既伏其誅，若及支黨，非所以求安也！”李世民立刻表示采納尉遲敬德的建議，並且進宮請李淵簽署一道“大赦天下”的詔令，宣布：“凶逆之罪，止於建成、元吉，自餘黨與，一無所問。”這是使李淵既吃驚又讚許的決策。
聽到赦令，曾經在玄武門前與秦王府甲士交鋒的李建成、李元吉集團將領馮立和謝叔方出來自首。那位在玄武門前宣稱要乘機攻打秦王府，弄得李世民部下大驚失色，差一點亂了陣腳的薛萬徹，原是隋朝名將薛世雄的兒子，在幽州隨羅藝歸降唐朝，曾經隨李世民進攻劉黑叛闥，表現出很強的作戰能力。李建成為此重用薛萬徹。在玄武門之變時，薛萬徹在東宮、齊王府衛士群龍無首的情況下，成為攻打玄武門的實際指揮者。李建成、李元吉的人頭掛出來了，他想再打下去已經毫無意義，所以說：“既然已經殺死了敬君弘，算是對得起太子了。”然後率領數十騎躲進終南山中，聽朝廷的消息。李世民怕薛萬徹聽不到赦令，特別派使者進山向薛萬徹等人宣布李淵的最新赦令。薛萬徹於是“釋仗而來”，李世民親自處理薛萬徹、馮立、謝叔方等人，說：“此皆忠於所事，義士也。”把他們全部釋放，慨不問罪。薛萬徹等人感激不盡，後來為李世民立下許多戰功。
李世民在請李淵赦免李建成、李元吉集團人員的同時，又請李淵下了另一道關於“僧、尼、道士、女冠並宜依舊”的詔令，這也出乎李淵意料。因為在李建成、李元吉集團與李世民集團的鬥爭中，佛教和道教為爭取各自的政治地位而分化，以法琳為首的佛教徒支持李建成，以王遠之為首的道教徒支持李世民，以至佛道之爭十分激烈。曾為道士的太史令傅奕在武德七年（公元624年）上疏，“請除去釋教”。法琳為此寫了《對傅奕廢佛僧事》一文，由李建成奏呈李淵，維護佛教的地位。李淵在考慮了雙方的意見後，在武德九年（公元626年）夏五月，也就是玄武門之變前一個月，以“京師寺觀不甚清淨”為名，下了一道對佛教並不有利的詔書，如《舊唐書》卷1《高祖紀》所載：