同日與饒漱石、黎玉、張雲逸、陳毅、譚震林、陳士榘、舒同發出致毛澤東主席並劉伯承、鄧小平電，報告華東野戰軍休整計劃和休整後作戰方案，請示可否對膠濟路分段有重點地加以破壞。中共中央軍委於3月21日複電：“同意破壞膠濟線”。
3月15日蔣介石為實施其對山東解放區的重點進攻，下令“堵黃複故”，堵塞花園口決堤口，迫使黃河改流河南、山東兩省故道，企圖切斷華東解放區與晉冀魯豫解放區的聯係。
3月16日與陳毅、譚震林發出致劉伯承、鄧小平並報中共中央毛主席電，報告送給劉伯承、鄧小平部隊的彈藥數量。
3月18日參加華東野戰軍特種兵縱隊在沂南縣蒼南坡舉行的成立大會。
3月22日先後在華東野戰軍幹部大會和醫務工作會議上作報告。報告指出，國民黨軍隊進攻延安，不僅政治上遭受了損失，而且軍事上也會遭到失敗。
我們的方針是不計一城一地的得失，而是著眼於殲敵有生力量。進攻延安的十幾萬國民黨軍被殲是指日可待的。
3月27日陳毅、張雲逸、鄧子恢致粟裕、譚震林並報毛主席、中共中央電，提出休整後行動的四個方案：（一）繼續在膠濟線爭取打一仗；（二）向兗州、鄒縣、泰安、滕縣間突擊；（三）向臨城、嶧縣、棗莊間突擊；（四）向臨沂、東海、新安間突擊。“以上四個辦法，我們認為以第四項辦法為更好”。
3月28日申時，與譚震林、陳士榘聯名發出致中共中央和陳毅、饒漱石、張雲逸、黎玉並告劉伯承、鄧小平電，提出對付國民黨軍隊重點進攻的作戰部署：擬以三個縱隊進至郯城、馬頭、新安鎮地區，然後向西擴張占領運河線，造成渡運西進逼津浦路南段之勢，誘敵第七十四師、第八十三師南援（注：此行動被國民黨軍察覺，遂改變決心，停留在新泰、蒙陰、十字路一線待機）；以一個縱隊集結沭陽、新沂線兩側，打擊沭陽向北增援之敵；以五個主力縱隊集結於蒙陰東南、臨沂西北地區，待機殲滅南援之敵第七十四師、第八十三師，或殲滅由泗水向東南增援之敵第十一師，或殲滅由大汶口向東進犯之第五軍。中共中央軍委於4月7日複電，“同意你們寅儉（3月28日）電部署，一切望按情況決定”，說明“因連日轉移，電台失聯絡，你們寅儉電今日才收到”。此前曾電詢華東野戰軍行動方案。
3月29日發出南下殲擊湯恩伯集團的行動命令。
同日毛澤東在陝北清澗棗林溝主持召開中共中央會議，決定毛澤東、周恩來、任弼時率中共中央機關和人民解放軍總部留在陝北，主持中共中央工作；由劉少奇、朱德、董必武組成中共中央工作委員會，以劉少奇為書記，前往晉西北或其他適當地點，進行中央委托的工作。
同日華東野戰軍舉行萊蕪戰役慶功聚會。粟裕策劃下一步殲敵方案。陳毅邀粟裕上山打獵，獵得一隻兔子。陳毅問粟裕：“502，你看這隻兔子該怎麼吃法？”粟裕答非所問：“這是蔣介石五大主力中的王牌，硬吃是不行的，必須智取，而且一定要全殲。”陳毅哈哈大笑：“好嘛，好嘛，這隻灰兔子身價不低，成了張靈甫，看樣子這個張靈甫命中注定成為我們慶功宴上下酒菜了。”
3月底到4月初華東野戰軍主力開始南下臨沂、蒙陰地區，準備殲擊湯恩伯集團。與陳毅、譚震林等率領華東野戰軍指揮機關轉移到蒙陰縣坦埠地區。
同時，國民黨軍13個整編師（軍）25萬人開始對山東解放區的重點進攻，打通了津浦鐵路徐州至濟南段及兗州至臨沂公路，侵占魯西南地區，向新泰、蒙陰地區進攻。
4月9日中共中央發出關於暫時放棄延安和保衛陝甘寧邊區的通知。
4月12日國民黨軍飛機轟炸華東野戰軍指揮機關駐地坦埠以西之崮縣。4月14日發電報給各縱隊並報劉伯承、鄧小平、中共中央，通報敵機襲擊華野指揮機關駐地情況。
4月15日酉時，與陳毅發出致中共中央、毛主席並劉伯承、鄧小平電，報告我軍南移企圖為敵人發覺，並已調整部署，緊縮防線，因此重新布置殲敵計劃。後來決定攻擊敵左翼薄弱環節，殲滅占據泰安的整編第七十二師，相機殲滅來援之敵。
4月20日發出華東野戰軍泰（安）蒙（陰）戰役作戰命令，指出：國民黨軍發現我軍主力南下沂水、蒙陰、臨沂東後，積極調整部署，“一麵似在加強隴海線縱深封鎖”，“一麵集中主力企圖乘隙進占沂蒙山區，逼我主力局促於濱海一隅，然後與我主力決戰”。“為調動敵人，混亂其部署，造成敵人錯覺，求得在運動中殲滅頑軍主力，避免與蔣頑集團決戰”，決心圍攻泰安，誘殲援敵。4月22日發起泰蒙戰役，戰至4月26日，攻克泰安縣城，殲滅整編第七十二師師部和兩個旅，生擒中將師長楊文泉。4月27日，中共中央軍委致陳毅、粟裕電，指出4月15日、22日、25日“各電計劃甚好”，“慶祝你們攻克泰安，殲滅七十二師”。
4月23日中共中央軍委電示李先念：去陳毅、饒漱石、粟裕、譚震林處補充兵員。
同日中共中央軍委致陳毅、粟裕電，征詢對劉（伯承）鄧（小平）下一步行動的意見。