吳仲禧知道吳石對共產黨人是有好感的，還讀過毛澤東的一些著作，親自在武漢珞珈山聽過周恩來的演講，還同葉劍英等有過交往。於是吳仲禧就向他敘述自己在北伐戰爭中接觸過的葉挺、蔣先雲等共產黨員的事跡，向他介紹共產黨對抗日民族統一戰線的主張，這些都引起吳石很大的興趣和讚譽。用吳仲禧後來的話說：“不過這個時候，他還看不清楚共產黨的力量，因而思想上仍在彷徨之中。”
1942年1月，吳石任國民黨軍政部主任參謀兼部長辦公室主任。同年吳石被調往國民黨軍四戰區。年底，在與日軍作戰時，還救過被誤當日軍間諜抓住並差點就地槍決的胡誌明（後任越共主席）。當時廣西鎮邊縣政府急電四戰區，說抓到一個像日本間諜的越南人，吳石下令先送到柳州長官部來。在知道對方的真實身份後，吳石以禮相待，並讓胡誌明在柳州組建越南民族同盟會，舉辦軍政幹部培訓班。
1943年至1944年，吳石親自部署了桂柳大會戰，保衛了獨山至百色一帶戰略要地。同時，還指揮了中越邊境保衛戰，以固守反擊戰術與敵軍殊死搏鬥，確保了廣西龍州至靖西嶽圩中越邊境廣大地區不被敵人染指。
1944年，日軍大舉進攻湘桂，國民黨軍隊節節敗退。吳石所部雖一再電請當局增調重兵，但蔣介石為了北扼共黨，南滅異己，不發一兵一卒，導致桂柳大潰退。當時天氣極冷，上有敵機轟炸，後有日寇撲來，大批難民病死、凍死、餓死、炸死在逃難途中。從災難之中，吳石逐漸看透了國民黨的腐敗本質。
抗戰期間，吳石還聯係閩僑參與抗日救亡，他以福建旅桂同鄉會作為橋梁，吸引南洋華僑青年來桂參軍。陳嘉庚先生率團回國慰問路經桂林時，與他相談甚歡，吳石一再要求陳先生多為抗日出錢出力。
抗戰末期，吳石調任重慶軍政部部長辦公室任中將主任。這時候，上海地下黨組織負責人潘漢年等人，指示吳仲禧設法通過吳石的關係在國防部內找一個實職，以便將來更好地開展情報工作。
抗戰結束後，吳石奉調南京，1946年任國防部史政局局長。吳仲禧找吳石幫忙，說他也想調國防部工作。這年9月，經吳石幫忙，吳仲禧被國民黨國防部委任為監察局中將首席監察官。吳仲禧可以利用這個職務，借著視察部隊之便收集情報。1947年到1948年之間，國共內戰發生根本性的變化。吳石對吳仲禧的真實身份已經猜到了八九不離十，轉向進步的吳石不但不防他，甚至主動創造條件，協助吳仲禧取得軍事情報。1948年春夏之間通過吳仲禧介紹，吳石參加了“民聯”，投身革命陣線。
1948年6月淮海戰役前夕，吳仲禧改任國防部中將部員，被派往“徐州剿匪總指揮部”。接到調令後，他立刻向香港的潘漢年彙報。潘漢年指示他抓住時機，獲取核心軍事情報。吳仲禧到南京後見到吳石，吳石親筆寫信給他的學生、“剿總”參謀長李樹正，說吳仲禧是他多年的摯友，請李多加關照，給予方便。吳仲禧到任時，出來接待的李樹正見信格外客氣，親自帶他到總部的機要室看作戰地圖。吳仲禧暗中把部隊駐地、番號、兵種及主要部署記錄下來，為把情報盡快送出，他托病回南京後方就醫，再趕到上海把情報向潘漢年彙報。
1948年8月，總參謀長顧祝同在一次由蔣介石親自主持的軍事會議上作了關於長江防禦戰備方案的報告，內容涉及江淮地區和江南一帶的兵力部署，以及江南第二線兵力編練計劃。參會的吳仲禧，從參謀部門抄錄了徐州地區國民黨部隊的兵力、番號、部署的全部資料交給中共情報組織。
1948年，吳石任福州綏靖公署副主任。這年中共中央社會部在福州設置工作站，並派遣謝筱迺（新中國成立後任中共中央黨史資料征委會副主任）到福州領導福州站情報工作。中共中央社會部秘密電台設在中共地下黨員蔡訓忠家中，開辟了聯係中共中央、華東局的空中秘密通道。按黨的指示，吳石通過何遂與謝筱迺接上了關係，單線聯係。吳石向謝筱迺提供了不少重要軍事情報，使得後來解放大軍南下福建進軍順利。
風雨下鍾山，蔣家王朝即將滅亡。1948年9月至1949年1月，中國人民解放軍揮師逼近南京。稍前，國民黨國防部尚保存有500箱重要軍事機要檔案資料，國防部長白崇禧、參謀總長陳誠主張直運台灣，而吳石則以福州“進則返京容易，退則轉台便捷”為理由，建議暫移福州。最終，國民黨當局采納了他的意見。於是，吳石派隨從參謀王強等人押送，於1948年12月下旬將機要檔案運抵福州，保存在於山戚公祠大殿內。吳石之所以要將這批機要檔案轉移到福州，原來他已得知自己將出任福州綏靖公署副主任，便於掌控。他打算一旦時機成熟就在福州起義，將這批軍事機要檔案獻給中國人民解放軍。
1949年5月，台灣的國民黨當局又電促速將檔案運台。吳石則以“軍運緊，調船難”為借口，僅以百餘箱參考資料、軍事圖書權充絕密檔案，列為第一批，派人先運台灣。緊接著的一天，吳石又下達“死命令”，當晚將檔案全部轉移到位於倉前山的福建省研究院書庫匿藏，並向他的摯友、研究院院長黃覺民（民主人士）作了交代。
6月，吳石參加了蔣介石主持召開的有湯恩伯、朱紹良、李以劻等出席的福州軍事會議。蔣介石很想固守福州，以屏蔽台灣。吳石違反蔣介石的意願，極力阻止修建福州半永久性城防工事，使大批市民免遭勞役之苦，並通過謝筱廼送出許多重要情報。
肩負重任 潛伏台灣
1949年春，吳石在廣州與吳仲禧再次見麵。他們暢所欲言，談得非常直接明了。吳石明確地說，國民黨大勢已去，他早已不想跟它走了，隻是自己決心下得晚一些。而且，他已與中共華東局直接建立聯係，同意提供重要軍事情報並策反國民黨軍隊。
淮海戰役結束後，掌握長江防禦實權的湯恩伯，不久便向沿江守備的十個軍長下達作戰命令，明確各軍的位置和任務，以及後勤補給的細則。隱蔽在湯恩伯司令部內的一位參謀人員（中共地下黨員），將消息轉告吳仲禧，因為上海情報線已斷，吳仲禧立刻將情報轉給香港分局。後來的事實證明，吳仲禧所提供的情報不僅有助於解放軍渡江作戰，而且影響到解放軍渡江後能夠迅速圍殲國民黨10多個軍於長江三角洲地帶。
1949年3月28日上午，南京國防部第三廳留守處在勵誌社召集緊急會議，部署長江防禦的最新任務。散會後，在國防部第六廳第二科任科長的中共地下黨員許錫纘馬上駕駛吉普車飛速向黨組織報告。
渡江戰役之前，中共已掌握的國民黨絕密文件已經有：《國軍京滬總部江防工事構築要領》、《空軍長江下遊防備》、《國軍江防兵力配備》、《國軍江防軍艦分布》以及《使用燃燒彈阻止共軍渡江計劃》等，這是多條情報線共同取得的戰果。4月20日午夜，劉伯承、鄧小平指揮的第二野戰軍和陳毅、粟裕指揮的第三野戰軍百萬之眾，在五百多公裏的戰線上發起渡江戰役，迅速突破國民黨的長江防線。