像其他封建帝王一樣，康熙也擁有眾多的嬪妃。眾多的嬪妃又給他帶來了眾多的子女，光皇子就有 35 個。眾多的子女本來是皇族興旺的標誌，然而，這卻是康熙的一大難題。
康熙十四年（1675），康熙立皇二子胤礽為太子。此時的胤礽還不到 2 歲，因他是中宮孝誠仁皇後所生，這才舍長立幼。隨著胤礽年齡的增長，康熙派太子師傅對他專門培養，還經常帶他外出巡行，一心想把他培養成一個很有作為的君主。胤礽勤學上進，能文能武，但他從小養成了驕縱任性的性格，特別是他的不仁不孝常常使康熙大失所望。
康熙四十七年（1708），適逢康熙在去木蘭圍場秋獵的途中，突然當眾宣布廢掉太子胤礽。當時諸皇子逐漸長大，各自招攬門客，結交權貴，覬覦皇位。還在康熙四十二年（1703），親附胤礽的元老重臣索額圖就因結黨妄行被幽禁。康熙認定胤礽品行不端，與索額圖居心不良有關，不廢掉他，難免“今日被鳩，明日遇害”，很可能重演隋文帝故事。說到這裏，康熙聲淚俱下，傷心欲絕。胤礽被廢之後，他仍然憤懣不已，連續六晝夜不能安睡。
太子廢掉了，事情並沒有就此平息，諸皇子爭當太子的欲望更加強烈了。這時，皇八子胤禝積極活動，授意大臣推舉他為太子，受到康熙的斥責。胤禝迫不及待，惟恐康熙回心轉意，複立胤礽，便想盡辦法謀害胤礽。事情敗露後，康熙極為震怒，拔出佩刀想殺死胤禝，幸而五子胤祺在旁邊抱住康熙哀求網開一麵，這場父子相殘的悲劇總算沒有發生。麵對這骨肉相殘的局麵，曆來被稱為聖明的康熙也難以決斷。他痛心地說：“等我百年之後，你們勢必會將我丟在乾清宮內，隻顧自己束甲相爭去了。”遍讀史書的康熙對曆史上殘酷的皇位之爭自然是了如指掌，但手心手背都是肉，諸多皇子中究竟誰堪擔當大任，康熙遲遲拿不定主意。
謀害胤礽的事件使康熙突然聯想到當初廢掉胤礽是由於聽信了某些人的讒言。他對倉促廢掉太子，不免有所後悔。康熙四十九年（1710）三月，康熙一方麵覺得胤礽有了悔過的表現，另一方麵也想就此斷了諸子爭立的念頭，複立胤礽。
但是到了康熙五十一年（1712），胤礽因為“行為乖戾”、“大失人心”再一次被廢，並且被永遠禁錮在鹹安宮裏。
年近花甲的康熙身體狀況大不如前，按理應對立儲之事早做安排。但是，他再也不許朝臣議論立儲之事。上書請奏這件事的大臣屢遭訓斥，更有是者幾乎被砍了頭。時起時伏的皇儲之爭就像一個深不可測的漩渦，一大批宗室和朝臣卷人其中，給他們帶來殺身之禍，即使是貴為天子的康熙也深陷其中，不能自拔。在立儲這件事上，他先是反反複複，後來又閉口不提，始終沒有找出解決的良策，不能不成為他一生的缺憾之事，同時也給後人留下一個難解之謎。
康熙六十一年（1722）十一月初七日，康熙帝走到了人生的盡頭，壽六十有九。葬景陵，廟號“聖祖”，尊諡為“仁皇帝”。
究竟康熙為何要立繈褓之中的胤礽為太子？
傳聞繈褓之中的胤礽被立為皇太子，有人說是孝莊太皇太後的提議，也有人說是康熙請求祖母而致，其原因有三：
其一是政治需要，也是立胤礽為皇太子的主要原因。康熙帝在位時，曆經內憂外患之苦：宮廷內部，皇子眾多，一個儲君的位子凝聚著多少雙眼晴，所以康熙帝內心極為不安，為了避免外戚的企盼，因此才將孤身一人的胤礽立為太子；而宮廷外部，由於軍事形勢的惡化，朝廷軍隊在南部和西部與叛軍交戰時接連受挫，為了應對這些挑戰，康熙接受了熊賜履等漢族大臣的主張，全麵采取漢化政策，加快了滿族政權的漢化進程，立太子便是康熙沿襲明朝的一個重要製度。
其二是盡孝心。有人認為康熙“恪守懿旨”才決定立胤礽為皇太子，假如不立太子，被看作對祖上不孝；如果不消弭內戰，安撫庶民，同樣意味著不孝，因此，內戰、孝敬太皇太後、培養皇太子這三件似乎互不相關的事情，在康熙帝心中攪成了一團。當時，康熙雖無時傾心於軍國要務，但他還是抽時間親自教皇太子讀書、騎射等，同時還讓大學士張英、李光地做太子的專職教師，又命令大學士熊賜履為太子講授各種書籍，為培養胤礽花費了相當多的心思。
其三是感情上的因素。康熙喜愛胤礽的生母，但她卻難產而死，因此有人認為康熙將自己對皇後的感情轉移到了胤礽身上。決定立胤礽為皇太子，一方麵可以斷絕六宮謀位的念頭，另一方麵也寄托著康熙心中的願望。在父皇所營造的良好學習條件之下，皇太子在較短的時間內就掌握了滿漢兩種文字，並且嫻於騎射，
每當隨康熙外出巡行的時候竟能與其“賡詞斐然”。毫無疑問，康熙帝在很長的一段時期是很喜愛皇太子的，對即位人胤礽的培養，是康熙帝教育後代的重點，並與預立太子的政治目的密不可分。
康熙皇帝在廢皇太子胤礽時曾就說過他“未卜今日被鴆，明日遇害”，好像他的生命是在危急環境中，隨時都有遇害的可能。康熙五十六年，皇帝又談到梁武帝台城之禍與隋文帝見害於逆子煬帝之一，感慨萬千地說《尚書·洪範》篇中所謂的“五福”以“考終命列於第五者，誠以其難得故也”，這似乎就在暗示他未必能善終。因此在他死後，有傳聞稱：“聖祖皇帝在暢春園病重，皇上（指雍正）派人送了一碗人參湯，不知何故，聖祖皇帝就崩了駕，皇上就登基了。”這一傳說就是暗示雍正皇帝以人參湯害死他父親康熙的。由於康熙晚年多次提到可能被人毒害，這一傳聞在當時以及日後很為人所重視，不少人對此還深信不疑。