到上海後，他立即與中共地下黨取得聯係。周士觀為韓練成訂好了去香港的機票，總統府管外事的中將參軍唐君鉑為韓練成提供了護照。在潘漢年等地下人員的安排下，韓練成身著風衣，口含煙鬥，肩挎照相機，手提一個牛皮旅行包，以香港昆侖電影公司攝影師許冰的身份出走香港。周士觀按照韓練成提供的人名、地址和暗號，向香港發出電報：“許冰到請接洽”。
不久，中共秘密組織將韓練成的夫人及其三個孩子也秘密送到了香港。對於張治中、關麟征和唐君鉑為什麼要幫自己，開始韓練成還不是太理解，因為這幾個人都是蔣介石所器重、所倚重的人。
韓練成在香港期間，密切關注著國共兩軍的戰況。每天得到的都是一些好消息，不久，解放軍東北野戰軍在遼沈戰役中殲滅國軍47萬餘人，東北全境解放。
淡泊名利 重黨輕銜
1948年11月23日深夜，韓練成和北上解放區的第二批愛國民主人士一起乘坐挪威籍商船離開香港，駛往大連方向。同船的有馬敘倫、郭沫若、許廣平母子、陳其尤、曹孟君等人。為了保密，潘漢年讓韓練成化名張某，交代隨行人員不要讓同船的任何人知道韓的真實身份。一路顛簸，到濟南時已近1949年元旦。新年後，韓練成等人從濟南乘卡車到德州，換乘火車到河北石家莊，再換卡車到平山縣中共中央所在地西柏坡。
到達西柏坡後，中共中央社會部部長李克農把韓練成安排到自己住的農家小院裏。1月下旬的一天，韓練成來到西柏坡參見朱德總司令。朱總司令親切地說：“你為黨、為革命可是立了大功、立了奇功的！按恩來同誌的說法，你那一支鉛筆，大過兩個兵團哪！”傍晚，韓練成回到東黃坭村。周恩來正在村邊與人談話，見韓練成回來，老遠就叫他：“練成同誌！”這是他們自1944年離開重慶後第一次重逢，雙手緊緊地握在一起。
毛澤東主席單獨接見韓練成時說：“蔣委員長身邊有你們這些人，我這個小小的指揮部，不僅指揮解放軍，也調動得了國民黨的百萬大軍哪！”
韓練成到解放區的消息不久傳到了國民黨那裏，當何應欽向蔣介石報告“韓練成投共，已到了解放區”時，蔣介石氣得一把打落了桌上的玻璃杯，指著何應欽等人大喊：“都是你們逼的！如果不是你們貶他一個中將當旅長，他怎麼會走？”
蔣介石的二公子蔣緯國，本來和韓練成很熟悉。但令他沒想到的是，他父親最信任的將領韓練成竟會是共黨地下人員，他後來說韓練成是“潛伏在老總統身邊時間最長、最危險的共諜”。
1949年2月，韓練成隨李克農到北平，為張治中和平談判代表團做了一些工作。不久，他要求學習，被批準到華北軍政大學學習了一段時間。
1949年6月下旬，張治中將軍發表《對時局的聲明》，公開與國民黨反動派徹底決裂，站到人民的一邊來。張治中在這份聲明中，還號召國民黨內的有識之士，同中國共產黨推誠合作，共同為實現新民主主義的理想而努力奮鬥。至此，韓練成才最後明白，當初張治中為什麼會幫自己。
蘭州解放後，韓練成被派任蘭州市軍事管製委員會副主任。同年12月任西北軍政委員會委員。1950年2月任西北軍區副參謀長。
周恩來過去一直說，韓練成是“沒有辦理入黨手續的共產黨員”。1950年5月，周恩來委托西北軍區副司令員張宗遜、副政委兼政治部主任甘泗淇做介紹人，介紹韓練成正式加入了中國共產黨。本來他有特殊經曆，為黨和人民做了那麼大貢獻，但他卻以普通一員的身份而不是以一個特殊黨員的身份入黨，這正是他高風亮節的體現。
韓練成對國防現代化、部隊正規化建設中傾注了心血。西北軍區在西安成立軍官學校後，韓練成兼任校長。他組織部隊自己動手修建營房，軍區機關的辦公大樓，就是由他親自參加勘測設計，精心組織施工建造起來的。
1955年2月，韓練成被任命為蘭州軍區第一副司令員。同年9月，中國人民解放軍舉行授銜儀式。授銜前，周恩來總理曾征求過韓練成的意見，原來根據他的條件和貢獻，如果按起義的國軍軍長對待，完全可以授上將軍銜。但如果按照1950年入黨時職務和1952年所定級別，他將被授予中將軍銜。
韓練成向周總理和中央軍委明確表態：“和平建國，我就該功成身退了，還要什麼上將、中將？”他誠懇地對周總理說：“你是最了解我的人，我算什麼起義將領？再說，我投身革命本來就不是為著功名利祿。”他堅持按入黨時的職務、級別，接受中將軍銜。
最後，他被授予中國人民解放軍中將軍銜，鑒於他在秘密戰線上為人民解放事業做出突出貢獻，還榮獲一級解放勳章。韓練成不僅沒有接受對起義將領的授銜待遇，連發給他的按起義將領對待的獎金看都沒看，就一次性地交了黨費。一時間，韓練成要黨員不要上將，成為軍中的美談。
周恩來總理很讚賞他的做法，經常講“韓練成要黨員不要上將”。
從1956年5月起，韓練成先後擔任解放軍訓練總監部軍事科學和條令部副部長，軍事科學院軍事史學部主任、戰史研究部部長等職，先後任第一、第二屆國防委員會委員。在葉劍英元帥的領導下，他協助彭紹輝主持編寫了中國人民解放軍的戰鬥條令和共同條令。
同是1956年，周恩來開會時和韓練成、馮白駒在一起，替他們解除了當年在海南產生的誤會。
1961年6月，韓練成因身體多病回西北休息，並任甘肅省副省長。1965年，韓練成經組織批準，離職休養。他先後當選為第五屆全國政協常務委員、第六屆全國政協委員。
1984年2月27日，韓練成因病醫治無效，在北京逝世，享年76歲。
被後人稱為“隱形將軍”的韓練成，生前在解放軍總醫院住院期間，曾以錄音形式留下《後事遺言》，其中的一番話既質樸又感人肺腑：
“我死後，用最簡單、最節約的辦法辦理喪事。……作為共產黨員，幾十年來，不論是在黨外的時候，還是入黨以後，黨要我做的事，全都做到了，可以說毫無遺憾地、安詳地閉上眼睛。我生前沒有個人打算，死後也沒有放心不下的事情。唯一願望：祝願我們偉大的祖國繁榮昌盛，各族人民團結、幸福！”