1948年冬，工委還交待潘石江的一項重要任務，要潘石江掌握好自己能夠控製的武裝，組織秘密軍隊，在渡江後配合解放軍解放常州城。這時潘石江所控製的保安團的部分連排長張新保、張建東、徐雲生、王覓丕等也看到形勢危急，想找出路。前來探聽潘石江的動靜。排長張建東說：“我們已經商量過多次了，你對我們好，眼光看得準，我們相信你，今後不論怎樣變化，我們總歸跟你跑！想拜你為‘老頭子’，你說什麼就幹什麼，隻要你一句話廠潘說：“我沒人過什麼幫會，自己也沒老頭子，怎麼可以收徒弟？”
潘石江和邵乃奮商量，邵認為利用幫會名義使關係進一步密切起來再過渡到第二步是可取的。於是答應了他們的要求。張建東等買來大紅帖子，照幫會規矩投帖拜師。參加投帖的有張建東、張新保、徐雲生、王覓丕、任世倫、戴全民、曹桂寶等連排班軍官。以後潘石江對他們進行形勢教育，列舉事實說明國民黨的黑暗腐敗，人心喪盡，人民痛恨；共產黨得到全國老百姓的擁護，解放軍越戰越強，打過長江解放全中國已是擺在眼前的事。潘石江說：“你們既然信得過我，一定帶你們走一條光明大道！”潘石江把他們編成3個連，每連3個排，要他們把兵帶好，準備隨時聽令行動。
連長張新保因為吳翼犧牲的事件心存顧慮，由邵乃奮以共產黨代表的名義找張新保談話，潘石江也對張新保做思想工作，告訴他隻要掌握好部隊可以立功，將來是有前途的，要他好好幹！張新保解去了思想包袱，很高興，與張建東籌一批款子，買到一支衝鋒槍、3支盒槍、300多發子彈充實力量。
1949年臨解放時，潘石江又說服少校軍醫主任牟淩和上尉副官一起參加起義。潘石江的臨時指揮部就設在北門外牟淩家的樓上。4月22日拂曉，解放軍渡江成功，突破江邊陣地向縱深發展，但敗敵仍散居各地頑抗，戰鬥很激烈。在此之前，張誌強曾通知邵乃奮解放軍渡江部隊頭戴八角帽，先頭部隊左臂有紅袖套；如果相遇可自稱“501部隊”，就知道是自己人，防止誤會發生衝突。這個番號已報告了江北的解放軍指揮部。趕快傳達到連隊。並要求趕快把地下軍集中在常州城北部，等候命令行動。於是邵乃奮趕去江陰申港與渡江先頭部隊聯係。潘石江也立即離家往北門活動，命張新保的連集中在北門外萬福庵附近。又派陳乃昭去鄭陸橋、三河口、焦溪通知另幾個連排到常州北部集結待命。
潘石江等了一天，沒有接到張誌強的命令，而城裏的反動派已於22日傍晚南逃，潘石江到4月23日接到通知，要潘去江陰篁村。潘石江過鐵路時就遇到渡江先頭部隊，正搜索前進。潘亮出自己是“501部隊”，果然得到指戰員的友好相待。潘石江告訴他們：國民黨軍已逃走了，快進城去吧！潘到篁村向張誌強報告了情況，張誌強很高興，說：“國民黨軍已潰不成軍，仗是沒有打了，想不到勝利來得這樣快！你快回去迎接解放軍進城吧！”
潘石江回到常州，陳乃昭派人來報告，他們的中隊尚未集中好，解放軍已到了三河口，張建東被打傷，待高喊“501部隊”時，解放軍說誤傷了自己人，快給包紮醫傷。所以張建東在養傷不能來，其餘部隊隨後就到。
隻有安家舍的一個分隊沒有到。原來他們被國民黨的潰敗軍隊裹脅帶到湖州，又到上海，過江至崇明島準備出海。分隊長任世倫找到他在公安局裏的熟人，向他宣傳了常州解放的消息，動員他們一同起義，起義成功，於是帶著自己的分隊和公安局的20多人東渡太倉，遇到解放軍把他們留下，解放軍給他們寫’了起義的證明和交還武器的收據，讓他們到常州軍管會報到。
潘石江把起義軍集中在常州西門外鎮澄米廠，向警備六旅報告。旅部派一位營長前去講話，休整10天以後，一部分參加解放軍警六旅教導團受訓；要回家的由旅部給起義證明和路費。潘石江向常州地委報到參加軍管會的接管工作。1949年4月22日，翟劍華由常州趕到胡埭，向立中支部傳達邵乃奮、潘石江的通知：有一部分國民黨起義官兵的家屬要送到胡埭由立中支部妥為安置。黨支部立即召開會議，研究了安置辦法，作好一切準備等候他們到來。但因解放大軍神速渡江，江南迅速解放，起義部隊的家屬也就不用安置了。