在江北，彭雪楓遊擊支隊於1938年11月打開豫東抗戰局麵後，由豫東東進，粉碎日偽2000餘人的進攻，經一年多的戰鬥，部隊發展至1.2萬餘人，創建了豫皖蘇遊擊根據地。1939年底改稱新四軍第六支隊，彭雪楓任支隊司令員。1940年6月，黃克誠率八路軍一部南下與第六支隊會合，兩支部隊合編為八路軍第四、第五縱隊，彭雪楓任第四縱隊司令員，執行向西防禦任務；黃克誠任第五縱隊司令員，執行東進任務。1939年5月至7月。八路軍蘇魯豫支隊派部隊和幹部進人皖東北，開辟了皖東北遊擊根據地。由於新四軍第四支隊司令員高敬亭東進不力，1939年5月5日，新四軍軍長葉挺親至廬江東湯池，建立新四軍江北指揮部，加強和統一江北地區新四軍部隊的領導，由張雲逸兼任指揮，徐海東任副指揮，賴傳珠任參謀長，鄧子恢任政治部主任。6月，江北指揮部整編部隊，由徐海東兼任第四支隊司令員；以第四支隊第八團為基礎成立第五支隊，司令員羅炳輝，政治委員郭述申；充實加強江北遊擊縱隊，司令員孫仲德，政治委員黃岩。部隊整編後，第四、第五支隊分別開赴津浦路西、路東地區開展遊擊戰爭，經過兩個多月的作戰，第四支隊開辟了以定遠東南藕塘為中心的津浦路西根據地，第五支隊開辟了以來安半塔集為中心的津浦路東根據地。兩個支隊的兵力增至1萬多人，並於12月下旬粉碎了2000餘日軍的"掃蕩"。1940年3月，取得定遠和半塔集自衛戰勝利。6月至8月間，粉碎了日軍的"掃蕩"和國民黨頑軍的進攻。9月5日至17日，粉碎了日偽1萬餘人對津浦路東抗日根據地的大規模圍攻和"掃蕩"，鞏固了皖東抗日根據地。
1月，李先念率新四軍兩個遊擊中隊和幹部隊，自河南確山竹溝出發挺進鄂豫抗日前線。6月，與陳少敏信陽挺進隊會師，統一成立新四軍豫鄂獨立遊擊支隊，李先念任司令員，陳少敏任政治委員（後由陶鑄代理）。1940年1月，將鄂豫邊區各地抗日武裝合編為新四軍鄂豫挺進縱隊，李先念任司令員，朱理治任政治委員。隨後，鄂豫挺進縱隊向大別山進軍，年底創建了鄂豫邊根據地，部隊發展至1.5萬餘人，為中原地區抗日戰爭打下了基礎。
為開辟蘇北根據地，1940年7月，陳毅、粟裕率新四軍江南主力渡江北上，與江北新四軍挺進縱隊會師。陳毅堅決執行中共中央指示，爭取了蘇北地方實力派李明揚、李長江的中立，為反頑鬥爭創造了條件。隨後，將江南指揮部改稱蘇北指揮部，由陳毅、粟裕任正、副指揮。7月下旬，揮戈東進，開辟了以黃橋為中心的蘇中抗日根據地，殲滅頑軍2000餘人。10月4日至6日，進行了黃橋決戰，殲江蘇省主席兼魯蘇戰區副司令員韓德勤所部1.1萬餘人。10月10日與南下的八路軍第五縱隊會師。至此，蘇北的鹽城、阜寧均被新四軍控製，完成了向北發展的戰略任務。11月，蘇北行政委員會成立。蘇北抗日根據地的創建，對堅持和發展華中敵後抗戰起了重要作用。
在江南，1939年春，新四軍第一支隊、第二支隊向揚中和長江北岸進軍，開辟了揚中抗日根據地。同年夏，陳毅又派出一批幹部和第四團，在宜興和武進之間開辟了太（湖）滆（湖）遊擊區。1939年5月，葉飛率第一支隊主力，沿江陰、無錫、常熟、太倉、蘇州一線挺進上海市郊，在蘇常太地區和澄（江陰）無（錫）虞（山）地區開辟了抗日根據地。6月，襲擊上海虹橋機場，擊毀日機4架。第一、第二支隊在向敵後發展的鬥爭中，打擊了日偽，壯大了自己。到1939年4月，部隊迅速由出發時的4000餘人發展到1.4萬餘人。在皖南，1939年，譚震林率新四軍第三支隊開赴銅陵、繁昌一帶開展遊擊戰爭，向日軍進行3200多次戰鬥。為統一指揮江南的新四軍，1939年11月7日，新四軍第一、第二支隊領導機關合並，成立了新四軍江南指揮部，陳毅任指揮，粟裕任副指揮，羅忠毅任參謀長，劉炎任政治部主任，鍾期光任副主任。同一天，江南人民抗日義勇軍主力與丹陽遊擊縱隊合編為新四軍挺進縱隊，北渡長江，在長江三角洲開展遊擊戰爭。江南指揮部成立後，不斷開展遊擊戰爭，1940年夏，江南新四軍主力北上，創建了以茅山為中心的抗日根據地。1940年4月和10月，皖南新四軍粉碎了日偽軍兩次大規模"掃蕩"，鞏固了皖南抗日根據地。
11月，中共中央決定成立八路軍、新四軍華中總指揮部，任命葉挺、陳毅為正、副總指揮，劉少奇為政治委員，在葉挺抵蘇北前，由陳毅代理總指揮，統一指揮華中八路軍、新四軍。到1940年底，新四軍已發展到10萬人，華中解放區已擴大到大江南北的許多地區，人口達1300萬。