1933年10月，蔣經國進入烏拉重型機械廠當技師，一年後升為廠長助理，兼任當地《重工業日報》的主編，並被接納為蘇共正式黨員。此後幾年他一直在該廠工作，並認識了蘇聯姑娘芬娜（即蔣方良），很快結婚生子。
1935年1月，中共第五次反圍剿失敗，紅軍正在進行艱苦的長征。蔣經國再次被召到莫斯科與斯大林共進晚餐。當時斯大林關心的問題是：國民黨在剿共勝利之後，其對內對外政策將出現何種變化？蘇聯應采取何種對策？
1936年12月，張學良、楊虎城發動“西安事變”，扣押了蔣介石，迫使其與中共談判。中共代表周恩來在會見蔣介石時，說到蔣經國在蘇聯頗受優待，蔣介石微露思子之意，周恩來便滿口答應將幫助他們父子團聚。此時，蔣經國本人也多次寫信給斯大林和蘇聯政府，堅決要求回國。1937年3月，蔣經國帶著妻兒離開他待了12年的蘇聯。
追隨父親，由“紅”變“白”
1937年2月，斯大林召見即將回國的蔣經國，交待他回國的明確任務是促使蔣介石“向左轉”，與中共和蘇聯合作。同年3月，蔣經國全家在中共駐共產國際代表康生的陪同下，乘火車經海參崴回國。在海參崴，蔣經國最後一次致電蘇共中央，表示“會恪遵黨紀”。
“共產作風”猶在
蔣經國回到上海後，提出與父親見麵的要求。或許是被兒子的公開決裂傷了心，或許是想讓他反省一下自己曾經的“幼稚”行為，蔣介石起先拒絕與蔣經國見麵。後來經吳稚暉從中遊說，父子倆才得以會麵。據說兩人見麵後，蔣經國二話不說，先跪下給父親磕了三個響頭。
1938年初，蔣介石把蔣經國委托給了江西省主席熊式輝，擔任江西省保安處少將副處長。蔣經國上任後，立即在全省各地展開突襲式巡視，搞得國民黨地方官吏雞飛狗跳，紛紛向熊式輝表示不滿。熊式輝為此成立了“江西省地方政治講習院”，將蔣經國調任新兵督練處處長。在這一職位上，蔣經國同樣毫不含糊，不僅雷厲風行地處死逃兵，還對農村招募來的新兵提供具體幫助，以解除其後顧之憂。
此時的蔣經國依然保留著共產主義的紅色思想，這也體現在他的日常工作中。蔣經國曾邀請蘇聯軍事顧問到南昌反法西斯集會上演講，他本人還受邀到新四軍駐南昌聯絡辦事處演講。這立即為他招來了許多非議，越來越多的國民黨要員形容他有嚴重的“共產作風”。蔣介石在流言之下，交待特務頭子戴笠插手此事。戴笠派手下文強每個月跟蔣經國見一次麵，向他介紹國民黨的派係鬥爭和現狀，教他在國民黨內的生存之道。文強與蔣經國年齡相仿，兩人聊得很投機，到後來幾乎無話不談。最初，蔣經國當著文強的麵，一再用“大資產階級”這樣的詞稱呼孔祥熙和宋子文，在文強的幾次勸說下，才慢慢改變。
1938年4月，國民黨召開臨時全國代表大會，決定成立“三民主義青年團”（以下簡稱“三青團”），蔣經國兼江西省支團主任。這是蔣經國派係正式形成的開始，日後該派係成員成了蔣經國在台灣的重臣要員。
贛南“新政”顯身段
1939年3月，南昌淪陷，國民黨省政機關南遷。1940年初，蔣經國正式接任江西第四區行政專員兼保安司令。第四區又稱贛南，涵蓋了整個江西南部的11個縣，人口約200萬。因為土地貧瘠，加上盜匪橫行，民眾生活非常貧困落後。蔣經國到任後，立刻有係統地遍訪轄區各個角落，對當地情況有了初步認識與掌握，隨即展開了“新政”。
蔣經國首先確定以恢複地方治安為第一要務，展開為期一年的“掃蕩行動”，除擴編保安隊外，還成立了600人的自衛隊。據報道，當年全境共有541名土匪自首，逮捕盜匪2246名，處死若幹重犯，初步安定了地方。隨後，蔣經國宣布向煙、賭、娼開戰。規定以一年為勒戒期，一年之後，任何人吸食鴉片，一律處以死刑。1941年，蔣經國命令取締娼妓，裁撤征收妓院稅的單位。一年之內，贛南地區妓院銷聲匿跡。此外，蔣經國還將各種地租一律減免25％，引進“耕者有其田”的政策，在佃農土地上成立示範農場，把荒地分給貧農耕作。兩年之內，當地農業生產總量上升20％。種種政策，讓蔣經國被當地百姓稱為“青天”。
就在蔣經國逐步展示其政治才華、取得一定成績的時候，國民黨內一些人卻開始散布“贛州變‘紅'了”、“蔣經國要在贛州搞‘赤化’了”等謠言，並傳到了重慶，蔣介石更加懷疑兒子在“睡國民黨的床，做共產黨的夢”。1943年12月，蔣經國被召回重慶，調任“三青團”中央幹部學校教育長，贛南“新政”無疾而終。
重回故地，與蘇共決裂
1945年抗戰勝利後，麵對東北勢力範圍的劃分及外蒙古獨立的棘手問題，國民黨與蘇聯的關係進入了一個微妙階段。斯大林出於蘇聯國家利益的考慮，對國民黨采取兩手共舉的策略：一方麵，他不放棄施壓蔣介石接受蘇聯在中國的勢力範圍；另一方麵，他又認為中共尚不成氣候，蘇聯需要維持與蔣介石政權的關係。
在此背景下，蔣經國作為國民黨內的“知蘇派”，出任外交部東北特派員。1945年聖誕節期間，蔣經國隻身前往蘇聯。12月30日與次年1月3日，蔣經國兩度與斯大林會談，試圖說服斯大林促成中共與國民黨合作、放棄外蒙古獨立等，但都被斯大林以托詞敷衍過去，並反過來提出了讓國民黨將美軍送出中國的要求。
在後來俄羅斯解密的蘇聯文件中，記載了蔣經國與斯大林的會談內容，其中有一段十分精彩的對白：
蔣經國說，……決定在不改變國民政府的結構和法律地位的條件下邀請中國共產黨代表參加政府。……蔣介石同意保留16至20個師的共軍並保證其安全。但是，既然談到中國的統一，軍隊就應該統一，即統一指揮。蔣介石認為，共產黨人不應該將自己的武力用於分裂國家。……請斯大林大元帥向中國共產黨提出與國民黨合作的建議。
斯大林同誌答道，……蘇聯政府已從延安召回了所有的代表，因為他們不同意中國共產黨人的行動。……中國共產黨人並不從屬於俄國共產黨人。共產國際已不複存在。俄國共產黨人很難（對國共關係）進行調停，因為他們不想提出最終會被拒絕的建議，況且中國共產黨人並未請求（蘇聯）提供建議。
蔣經國指出，斯大林大元帥的威望將迫使中國共產黨人遵從他的建議。
斯大林同誌答道，……蘇聯政府並不想幹涉中國的內政。一般說來，外國軍隊幹涉中國事務於蔣介石不利，因為這將導致中央政府權威的削弱。