康熙十四年，21歲的玄燁一改滿洲統治者不立儲嗣的習慣，采用了漢族統治者的嫡長子皇位繼承製度，冊立嫡子胤礻乃為太子。十二月，舉行了隆重的立儲大典，並頒詔天下。當時胤礻乃隻有1歲多，因他是中宮孝誠仁皇後所生，所以玄燁舍長立幼。隨著胤礻乃年齡的增長，玄燁便派太子師傅開始對他精心培養，既係統給他講述儒家學說，又教他騎射武功。同時，玄燁還經常帶他外出巡行，也曾讓他處理過一些政務。玄燁的心願就是將胤礻乃培養成一個理想的君主。胤礻乃勤學上進，能文能武，隻是從小養成了驕縱任性的性格，特別是他的不忠不孝不仁常常使玄燁大為惱火。
到了康熙四十七年，玄燁在去木蘭圍場秋獵途中，便突然當眾宣布廢掉時已33歲的太子胤礽。當時諸皇子都已漸漸年長，各自招攬門客，結交權貴，覬覦皇位。早在康熙四十二年，親附胤礻乃的元老重臣索額圖就因“結黨妄行”的罪名被幽禁。玄燁認定胤礻乃辜負了自己的諄諄教誨和悉心指教，品行不端，與索額圖朋比為奸，不廢掉他，自己難免不知今日被毒死，還是明天遭殺害，很可能重演隋文帝的故事。想到這裏，玄燁老淚縱橫，悲憤欲絕。胤礽被廢後，玄燁仍然憤懣不已，連續六晝夜不能安睡。
太子胤礻乃廢掉後，並沒有使其他的皇子平靜下來，相反，諸皇子爭當太子的欲望更加強烈起來，活動相對也加劇了。這時，皇八子胤祀積極活動，授意大臣們推舉他為太子，受到玄燁斥責。胤礽急不可耐，唯恐玄燁回心轉意，複立胤礻乃為太子，便設法謀害胤礻乃。事情敗露後，玄燁極為震怒，拔出佩刀想殺死胤祀，幸虧皇五子胤祺在旁邊抱住玄燁哀求，這場父子相殘的悲劇總算沒有發生。隨後，胤祀被革去了貝勒的封號。皇長子胤礻是則以巫術詛咒胤礻乃，結果也被玄燁革去王爵，終身監禁。另有其他幾位皇子也都在不同程度上參與了這場爭鬥，結果都受到了懲處。麵對這樣一種錯綜複雜的局麵，素稱聖明的玄燁也難以決斷。他痛心地對皇子們說：“等我百年之後，你們必定把我丟在乾清宮內，隻顧自己束甲相爭去了。”
遍讀史書的玄燁對曆史上殘酷的皇位之爭自然洞若觀火，他的十幾個兒子都很出色，究竟誰堪擔當大任，康熙一籌莫展，遲遲拿不出主意。
康熙四十九年三月，玄燁一方麵覺得胤礻乃有了悔過的表現，另一方麵也想斷了諸子爭立的念頭，複立時已35歲的胤礻乃為太子。事前，玄燁曾當著群臣的麵，淚流滿麵地對胤礻乃提出忠告、鼓勵和殷切希望。胤礻乃則當眾表示要糾正錯誤，痛改前非，不記仇，不報複。
胤礻乃複立為太子，未能真正解決皇儲矛盾，形勢反而愈加嚴峻。胤礻乃複立後，為保住自己儲君的地位，進一步收羅黨羽，擴充實力，使皇儲之間的矛盾進一步激化。這一切迫使玄燁不得不再度考慮對胤礻乃的去留問題。經過一段時間的深思熟慮，康熙五十一年九月，玄燁以皇太子“行為乖戾”、“大失人心”為由，再次宣布廢黜皇太子胤礻乃，並且宣布將其永遠禁錮在鹹安宮內。六十多歲的玄燁是不比從前了，按理應對立儲之事早做安排。但是上書要求立儲的事屢遭訓斥，有的差點被砍了頭。最後他不得不表示：準備在臨終前留下傳位遺詔，暗立繼位人。他晚年最中意的皇子是十四子，他特地任命十四子為撫邊大將軍，派往西北邊垂扭轉關係重大的西北戰局，以讓他建立功績，提高威望，為繼承皇位創造條件。
康熙六十一年十一月十三日，玄燁病逝，享年69歲，廟號聖祖，安葬於遵化馬蘭峪，名景陵。
玄燁8歲即位，16歲親政。他北巡51次，六下江南，一生之中不斷東巡西察，大部分時間在馬上、民間度過，他勤勉為政，外禦侵略，內平叛亂，重農貴粟，整飭吏治，雖非開國皇帝，但卻用他的文韜武略親手勾畫了清帝國遼闊的版圖，實為帝國繁榮局麵的開創者，實在是一個很有作為的皇帝，被稱為千古一帝，也實不為過。