1899年12月29日生於中國四川省江津縣吳灘鎮。1907年入私塾讀書，6年後入小學讀書。1917年7月畢業於江津縣九如鎮立高等小學，入江津縣立中學（今江津中學）讀書。1919年，因參加五四運動，支持當地學生愛國鬥爭，被迫離校。12月，懷著“工業救國”的願望赴法國勤工儉學。1920年1月，到達法國，曾先後進蒙塔爾紀中學、德洛中學、胡乃爾中學就讀，進蒙塔爾紀橡膠廠、克魯鄒鋼鐵廠等工廠做工。1921年，參加了“二八運動”、“拒款運動”
、“爭回裏昂中國大學運動”等留法學生的愛國運動。1922年夏就讀於比利時沙洛瓦大學化學工程係。開始學習馬列主義，改變了“工業救國”的想法。8月參加旅歐中國少年共產黨（後改稱中國社會主義青年團旅歐支部），與劉伯堅一起負責過旅比利時支部工作。1923年春加入中國共產黨，曾任旅歐社會主義青年團執行委員會委員、團的訓練部副主任。1924年10月到蘇聯莫斯科，入東方勞動者共產主義大學學習。1925年2月，入蘇聯紅軍學校中國班學軍事。1925年9月回國，任黃埔軍校政治部秘書兼政治教官，黨內職務為黃埔軍校黨團領導小組成員，並為中共廣東區委軍委成員。1926年“中山艦事件”後到廣東區委做周恩來的助手。7月，北伐戰爭開始後任軍委特派員，負責黨的聯絡工作和向各軍分配黨員幹部。10月10日，隨北伐軍進攻武昌。組建湖北省軍委，任中共湖北省委軍委書記，後在中共中央軍事委員會參與向北伐軍中派遣中共黨員等工作。1927年“四一二”反革命政變後被派往上海，協助周恩來整頓遭受破壞的工人糾察隊，處理善後工作。
1927年7月中旬，武漢國共分裂，被指定為中共前敵軍委書記，赴九江準備組織武裝起義，8月1日在南昌起義中組織張發奎部第二十五師兩個多團起義，後任起義軍第11軍黨代表，與軍長葉挺率部南下。潮汕失敗後，轉赴香港。同年12月11日，參與領導廣州起義。在起義軍受挫的緊急情況下，與葉挺果斷決定撤退，保存了部分革命武裝力量。1928年1月，任中共廣東省委軍委書記，負責訓練軍事幹部和指導兩廣各地的武裝鬥爭。1930年1月，任中共順直省委組織部部長，同年5月調上海，在中共中央特科和中央軍委工作，1931年1月任中共中央軍委參謀長。1931年4月，中央特科負責人顧順章叛變，協助周恩來緊急搬遷了中央機關和負責人住址。12月，進入中央革命根據地，先後任中國工農紅軍總政治部副主任、第一軍團政治委員。曾當選為中華蘇維埃共和國中央執行委員。1932年3月，在“左”傾冒險主義的執行者要中央紅軍奪取贛江兩岸城市時，他支持毛澤東關於紅軍主力向國民黨統治薄弱的地區發展的意見。同年4月，作為紅軍東路軍政治委員，參與指揮漳州戰役。1932年冬以後，與軍團長林彪率部參加第四、第五次反“圍剿”，在戰鬥關鍵時刻到前沿指揮。長征開始後，在突破國民黨軍第三道封鎖線時，堅決執行軍委關於控製九峰山的命令，保障中央縱隊左翼的安全。在1935年1月召開的遵義會議上，支持毛澤東的主張。過金沙江後，任中央紅軍先遣隊政治委員，與司令員劉伯承一起，率部通過彝族聚居區，強渡大渡河。隨後和林彪率第一軍團翻雪山，過草地，攻占臘子口，打開前進道路。在第一方麵軍與第四方麵軍會合後，反對張國燾的分裂活動。到陝北後，率部參加直羅和東征、西征戰役。1936年11月，參與指揮山城堡戰役。抗日戰爭爆發後，任八路軍第115師副師長、政治委員。與林彪一同指揮平型關戰鬥，殲滅日軍阪垣師團一部一千餘人，取得全國抗戰開始後的第一個大勝利。
1937年11月，任晉察冀軍區司令員兼政治委員，率領3000人的武裝，在晉察冀三省邊界地區創建了敵後第一個抗日根據地。
在根據地的建立、鞏固與發展中，正確執行中共中央關於抗日戰爭的戰略方針和各項政策，發動和組織人民群眾，發展抗日武裝，加強黨和政權的建設，到1938年底，晉察冀邊區發展到七十二個縣，曾被中共六屆六中全會主席團譽為模範抗日根據地。1939年冬指揮雁宿崖、黃土嶺戰鬥。在黃土嶺戰鬥中殲滅日軍第二混成旅團一千五百餘人，擊斃被日軍稱為“名將之花”的阿部規秀中將旅團長。1940年春，率晉察冀南下支隊到晉東南參加反擊國民黨頑固派朱懷冰部的作戰。1940年8月，在百團大戰中，組織指揮部隊在正太、津浦、平漢、北寧等鐵路線進行破擊戰。1941年秋，日軍七萬餘人對北嶽、平西地區大舉“掃蕩”時，指揮主力相繼轉至外線作戰，同時率領黨政軍機關一萬餘人，在隻有一個團的兵力掩護下，突出重圍，粉碎了日軍圍殲晉察冀領導機關及主力部隊的企圖。1942年，在鬥爭極其殘酷、根據地日益縮小的情況下，適時提出“向敵後之敵後挺進”的鬥爭方針，組建多支武裝工作隊，深入敵占區襲擊和奪取日偽軍力量薄弱的據點，擴大遊擊區。至1943年後，逐步挫敗了日偽軍頻繁的“掃蕩”、“蠶食”和“清剿”，扭轉了困難局麵。1943年秋回延安參加整風運動。1945年6月被選為中共第七屆中央委員。8月11日起，部署晉察冀軍區部隊開展對日反攻作戰。