同年7月，吳石由福州經廣州輾轉到香港，在香港找到吳仲禧。吳石告訴吳仲禧，他已被調任國民黨“國防部參謀次長”，很快要到台灣去。吳仲禧請他考慮，到台灣去是否有把握，如果不去可以留下，轉赴解放區。吳石堅決表示：“我的決心已經下得太晚了，為人民做的事太少了。現在既然還有機會，個人風險算不了什麼。”吳石告訴吳仲禧，為了避免嫌疑，他的夫人王碧奎和兩個小兒女也要去台灣，留下大兒子韶成、大女兒蘭成在大陸。雖已作了安排，還請吳仲禧在必要時給予照顧。
8月14日，吳石接到蔣介石急電，命令他即日赴台。第二天上午，他密召親信參謀王強到公館，作了簡要而嚴肅的麵示：“我奉命明天即飛台北，這裏的事情就交給你了，你要盡到軍人天職，人在檔案在！下一步怎麼辦，想必你自己懂得。為萬無一失，可征求黃院長和劉通先生（原國民黨立法院立法委員）意見而行。”
8月16日淩晨，吳石即攜家眷飛往台灣。8月17日福州解放，王強即在黃覺民、劉通兩位前輩認可下，將298箱保存無損的國民黨軍事絕密檔案呈獻給了解放軍第十兵團司令部，價值連城的“末次資料”也在其中。
吳石赴台前，中共地下組織給他的代號為“密使一號”。吳石抵台後，就任國民黨“國防部參謀次長”，被授予中將軍銜。吳石官至中將參謀次長，因此被認為是中共打入國民黨內部的最高情報官。
其實，在國民黨退守台灣之前，台灣就已經有了共產黨組織。1928年台灣共產黨成立，不過那時的台灣共產黨不隸屬於中國共產黨，而是日本共產黨的分支。1945年8月，台灣籍幹部蔡孝幹被中共中央派遣為台灣省工作委員會書記，成為台灣地下黨的領導人。9月，蔡孝幹由延安出發，12月至江蘇淮安，見到華東局書記張鼎承、組織部部長曾山、幹部張誌忠等人，隨後到滬與華東局駐滬人員會合，並學習一個多月。
蔡孝幹1908年出生於台灣彰化縣花壇鄉，早年參加台灣文化協會，後前往大陸就讀於上海大學。1928年到江西瑞金中華蘇維埃共和國，加入中國共產黨。他不僅和台籍女黨員謝雪紅一道參與過1928年台灣共產黨的創辦，還參加過兩萬五千裏長征，是在中共黨內成長起來的台籍革命者。
為盡快到台灣發展組織，上級讓上海台灣同鄉會會長李偉光，代為辦理蔡孝幹入台手續。1946年4月，首批幹部先由張誌忠率領由滬搭船潛入基隆、台北開始活動。蔡孝幹於1946年7月到達台灣，隨即正式成立“中共台灣省工委”，並自任書記。而後他與陳澤民、洪細樵、張誌忠等人一道完善黨組織，開展聯係台共人士和左翼積極分子等活動。初期台灣省工委幹部包括簡吉、謝雪紅、陳福星、張伯顯、廖瑞發、林梁材等人。從此，島內的台共活動有了相對統一的組織領導。
據台灣地下黨人劉青石回憶，當時他在蔡孝幹的領導下，負責台灣地下黨與中共華東局的聯係。1947年1月，根據中共中央的指示，就北平發生美軍強奸大學生事件，他在台灣發動大規模反美示威。“二?二八”事件前，地下黨的組織延伸主要集中在高等院校和知識精英當中，在台灣土生土長的吳克泰、劉青石等人便在這個階段加入，其中還包括一個日後舉世矚目的名字──李登輝。同年“二?二八”事件之後，由於當時的國民黨當局喪失民心，在台灣的中共黨組織迅速發展，人數激增一倍。
由於台灣的地下黨情報組織遭到嚴重破壞，1949年10月25日，解放軍三野十兵團在缺乏軍事情報的情況下，進攻金門失利。同年11月，解放軍攻打舟山群島也受到重大損失。這兩仗的失利，給戰無不勝、攻無不克的解放軍敲響了警鍾，意識到軍事情報的重要性，同時也意識到解放台灣要比原先預計的更加困難了。為盡快取回吳石掌握的重要軍事情報，華東局領導決定派長期在上海、香港從事情報工作的女黨員朱諶之赴台與吳石聯係。
朱諶之原名朱桂鳳，又名朱楓，1905年出生於浙江寧波鎮海縣名門。她的父親是富商，曾任寧波漁商工會會長。1921年考入寧波月湖女子師範學校，在校求學期間她與共產黨員陳修良、金維映誌趣相投，積極從事愛國學生運動，參加過五卅運動。1927年朱諶之遠嫁鎮海籍沈陽兵工廠大技師陳某。“九?一八”事變後，全家回鎮海居住，翌年丈夫病故。抗日戰爭全麵爆發後，朱諶之積極投身於抗戰洪流，奔波於武漢、桂林、湘北、皖北、皖南、上海等地，在黨的領導下，從事文化及財經工作。後來她加入中共地下組織領導下的新知書店，在該書店做書刊郵購、會計工作，並與同在書店工作的共產黨員朱曉光結合。1945年2月，朱諶之在上海加入中國共產黨，調華中局在滬貿易機構負責財務工作，兼管國統區地下工作經費。1948年她奉命到香港合眾貿易公司任職，這個公司實際上是中共的秘密機關，朱諶之主要從事統戰與情報工作。本來朱諶之已準備回上海與家人團聚，組織上考慮到朱諶之有豐富的地下工作經驗，加上她的妹妹、妹夫都在台灣情報部門工作，她前夫的女兒、女婿都在台灣，有一定的社會關係，中共華東局決定把這項重大的絕密使命交給她，朱諶之欣然接受了任務。
朱諶之接到黨組織布置的任務後，立即動身由香港前往台北。11月27日，她乘坐的輪船在台灣基隆港靠岸。根據組織上的安排，她在台灣單獨聯係“兩條線，兩個人”，一人是中共台灣省工作委員會書記即蔡孝幹，另一人就是吳石。
到台灣的第二天，按照預先的約定，朱諶之與先與化名“老鄭”的華東局台灣工作委員會負責人蔡孝幹在基隆茶食樓接上了頭。她向“老鄭”傳達了華東局領導的指示，“老鄭”也向她報告了台灣工委為接應人民解放軍登陸組織秘密武裝的情況。同時還把工委掌握的一些絕密情報交到了朱諶之的手中。
一周後她與吳石在其寓所中會麵。在書房裏，吳石從北牆上的一個秘密小保險箱中取出一隻小圓鐵盒，鄭重地放到她的手裏說：“朱楓（朱的另一個名字）同誌，這盒裏裝的微縮膠卷，全是絕密軍事情報，有《台灣戰區戰略防禦圖》，有最新繪製的舟山群島，大、小金門《海防前線陣地兵力、火器配置圖》，各防區的《敵我態勢圖》，有台灣海峽、台灣海區的海流資料，台灣島各戰略登陸點的地理資料分析，現有海軍基地並艦隻部署、分布情況，空軍機場並機群種類、飛機架數。另外，還有國民黨蔣介石《關於大陸失陷後組織全國性遊擊武裝的應變計劃》等。望你以最快的速度，送回香港，送至內地。”這批情報迅速通過定期往返香港、基隆間的“安福號”海輪上一位大副帶到香港，再從香港傳遞到中共華東局情報局，有的情報還被呈送給毛澤東。毛澤東叮囑有關人員“一定要給他們記上一功呀！”還揮毫在一張紅豎格信紙上寫下了一首五言絕句詩：“驚濤拍孤島，碧波映天曉。虎穴藏忠魂，曙光迎來早。”
朱諶之在台灣期間，住在身為警務處電訊管理所主任的女婿家。她6次與吳石秘密會晤，陸續送回一些重要軍事情報。