麵對桂係逼宮，蔣介石不但表示“餘欲引退，必由自我主動”，決不接受任何方麵壓力，還曾密令軍統特務暗殺李宗仁，後覺不妥而撤消行動。
形勢對蔣愈加不利。1949年1月14日，毛澤東發表八條時局聲明，第一條就將老蔣排斥在談判門外。司徒雷登於17日對李宗仁明確表示，如果一周內蔣介石不肯下台，美國政府將支持李宗仁到武漢發表主張和平的聲明。
蔣介石看到美國的態度如此，知道是該下台的時候了。21日上午，蔣介石在美齡宮三樓基督凱歌堂默念禱告辭，中午，宴約五院院長，表示辭行之意，下午2點，在憩廬官邸主持召開國民黨中央執行委員會常務委員會緊急會議，表示引退，“讓德鄰（李宗仁）兄依法執行總統職權，與中共進行和談”，並且“5年內絕不幹預政治，但願從旁協助”。李宗仁在接職文稿上簽字後會議結束。當天，國民黨中央社正式播發蔣介石第三次下野文告。下午4點10分，蔣介石麵容憔悴，穿上那淺色長袍、深色馬褂，一手拄著拐杖，與送行的官員一一握手後，攜宋美齡登上“美齡”號專機，往東南方向飛去。他知道這一去很難再回來了。
李宗仁於21日便成了“代總統”。白崇禧不愧為“小諸葛”，早有預言“要當就當‘真皇帝’，如果‘代理’則將一事無成。”李宗仁上任後很快就知道了有職無權的滋味。總統府警衛大隊被蔣全帶走；2月1日，國民黨中央黨部遷往廣州；4日，行政院遷至廣州，造成府（總統府）院（行政院）分裂，李宗仁成為空頭總統。
孫科在李宗仁千方百計之下終於返京，不久就向李代總統遞交辭呈。李宗仁想請居正組閣，但在老蔣幹預下，何應欽當了行政院長。何內閣對於蔣介石的指示惟命是從，而對於李宗仁交辦的事卻無一兌現。白崇禧批評何“為人懦弱，沒有魄力”。何回答道：“你們不怕同蔣鬧翻，我卻不能這麼辦！”
蔣介石下野前就將國庫中的黃金、白銀、外彙全部運到了台灣。李宗仁財政被釜底抽薪，捉襟見肘。
蔣介石知道國共和談一旦成功，李宗仁政治資本將大增，自己將難以複出，因此重重幹涉設阻。
蔣介石的總統辦公室就在李宗仁的副總統辦公室對麵，雖然空著，李宗仁始終都沒搬過去。李宗仁還是常在傅厚崗官邸辦公。過去是不想與老蔣碰麵，現在是看到老蔣的空位子都不舒服。蔣介石的戎裝照還掛在總統辦公室牆上，就像幽靈一樣，掌控著一切。
蔣介石乘專機離京赴杭，次日即回老家溪口。下野後的蔣介石仍是國民黨總裁，此次回鄉雖然比以前要冷清許多，但卻是早有準備。安全保衛侍從隊伍自不用說，還在雪竇山妙高台和慈庵中架有電台，以備老蔣遙控指揮。蔣介石在溪口頻頻會見國民黨軍政領導，對軍事、政治、經濟、人事實施掌控。
來溪口的國民黨將領絡繹不絕，他們有何應欽、顧祝同、湯恩伯、林蔚文、李彌、閻錫山、劉斐、劉安琪、袁守謙、熊笑三、萬耀煌、陳誠、宋希濂、關麟征、俞大維、周至柔、胡宗南等，儼然溪口才是軍事指揮中心。李宗仁請閻錫山和居正帶信到溪口，表示對蔣幹擾和談的不滿。
蔣介石回到老家溪口蔣介石與宋美齡在溪口蔣介石與蔣經國在溪口蔣介石知道在大陸的時間不多了，十分留戀家鄉的山水風光，盡量抽出時間尋訪名勝古跡、祖先墳墓、同姓宗族，以作最後的留戀。
1月28日，是蔣介石自1913年以來首次在家過年。除夕夜，張群、陳立夫、俞濟時等人都參加了蔣家在祖居豐鎬房報本堂的年夜飯，宴席上充滿著患難悲涼的氣氛。次日，蔣介石專門到寧波白水巷拜謁先祖蔣浚明的神位，蔣浚明官居金紫光祿大夫，是蔣介石最引以為榮的先祖。返回後，又到溪口蔣氏總祠堂及一、二、三、四各房祖堂參拜。年初二，舞龍隊專門為蔣介石表演，老蔣看到騰龍從凳子上平穩舞落到地上，似乎聯想到將要平安落腳台灣，十分高興。
奉化當地有“頭杯茶”的說法，就是誰喝了新娘進門端上來的第一杯茶，就會有福氣。蔣介石正好碰到一家在娶媳婦，經喜事總管的邀請，就坐下來，興衝衝地等喝“頭杯茶”。新娘因故遲遲未來，蔣介石感到十分掃興，悻悻而歸，但沒忘記命隨從送了賀禮。
蔣介石利用這次難得的休閑，走遍幼時拜過佛的寺庵廟宇，如寧波的天童寺、阿育王寺、彌陀寺、金峨寺和奉化的青蓮寺，求佛保佑。
1949年4月13日，蔣介石偕蔣經國和侍衛長俞濟時專程到四窗岩拜別。四窗岩位於四明山中心，淩空壁立，四洞相連，外觀如四窗大廈，內有幾十米石洞相通，傳說是成仙之處。