中共中央、中央軍委鑒於內線殲敵之有利，確定華東我軍繼續執行內線殲敵的方針，於1947年3月6日發電指示華野：“考慮行動應以便利殲敵為標準”，原令你們提早轉人外線之計劃，“現可改變，大約本年全部時間均可用於內線作戰”。並要求華野“在今後10個月內再殲敵40個旅至50個旅。”
蔣介石總結了前一段作戰失利的教訓後，也改變了戰略方針，由對我解放區實行全麵進攻改變為重點進攻，即集中兵力對我解放區的兩翼——陝北和山東繼續采取攻勢，而對其他解放區采取守勢。蔣介石把這次戰略方針的調整和重點進攻的成敗，視為“關係黨國存亡“的大事。
敵軍統帥部對山東重點進攻的準備在萊蕪戰役後即已開外，將整編第9師由武漢調到山東。
在兵力上，敵人用於山東方向的已達24個師、60個旅，45．5萬餘人占其進攻解放區總兵力的27％，占其重點進攻兵力的66％。“五大主力”中的“三大主力”，即整編第74師、整編第11師和第5軍均調集於山東戰場。以“三大主力”為骨幹，分別編成3個機動兵團：湯恩伯第1兵團，轄整編第74、第83、第65、第25、第28、第57師；王敬久第2兵團，轄第5軍、整編第85、第75、第72師；歐震第3兵團，轄整編第11、第9、第20、第64、第84師以及第7軍、整編第48師（第7軍、第48師後又劃歸第1兵團指揮）。3個兵團共有17個整編師（軍）43個旅，約25．5萬餘人，執行機動突擊任務。另以7個整編師、17個旅約20萬人，配置在以徐州、濟南為中心的地區擔任守備和策應。
在作戰方針上，國民黨亦作了新的研究、改變。解放戰爭開始，多采取長驅直入、分進合擊、乘虛進襲等戰法。魯南戰役後，國民黨統帥部即提出了“集中兵力，穩紮穩打，齊頭並進，避免突出”的作戰方針和“密集靠攏、加強維係、穩紮穩打、逐步推進”的方針，妄圖進一步加強兵力密度，成縱深梯次部署，作弧形一線式推進，使我軍無法分割和各個擊破，而陷於戰略、戰役布勢上被動不利的地位。
為貫徹實施對山東重點進攻的方針，國民黨陸軍總司令顧祝同進駐徐州統一指揮，蔣介石則坐鎮南京統籌決策。
山東戰場，敵人大軍壓境，情況的確十分嚴重。
在陳毅領導下，前指認真地研究形勢，製定對策。我軍的作戰方針仍然是集中優勢兵力，各個殲滅敵人，並決心與敵人作幾次大的較量。但是，鑒於敵軍兵力過分密集，準備充分，行動謹慎，估計有利戰機比過去少得多。所以，陳毅、粟裕等人研究決定：在敵軍重點進攻開始時，采取持重待機的方針，即以積極主動的作戰行動吸引、調動、疲憊、迷惑敵人，審慎地觀察戰場形勢的細微變化，分析掌握敵人的行動規律，能動地創造和捕捉有利的戰機，條件具備了就堅決殲滅之；條件不具備，就改變和放棄原定計劃，絕不輕躁作戰。
從3月初起，我軍抓緊戰役間隙，在淄（川）博（山）地區和膠濟線進行了1個月卓有成效的整訓，並進行各項準備。
3月下旬敵人發起了進攻，其第2兵團先以一部進犯泰安以西地區，主力相繼占領泰安、大汶口等地。4月初，該敵在第二綏靖區一部配合下，打通了兗州至濟南的鐵路。敵第3兵團在兗州，分由鄒縣、滕縣等地向東進犯泅水、太平邑、白彥；第3綏靖區所部由棗莊向北進犯梁邱；第1兵團3個師由臨沂西犯費縣、梁丘。4月上旬，敵侵占了魯南區，打通了臨沂至兗州的公路。
敵人進攻開始後，華東野戰軍除以一部配合地方武裝積極打擊進犯之敵，遲緩其行動外，主力仍集結膠濟鐵路待機。3月28日，鑒於敵第1兵團各師配置間隙較大，便於分割，且與第2、第3兵團相距較遠，華野司令部決心以第2、第7、第8縱隊沿膠濟路分路南下，以第1、第3、第4、第6、第9縱隊集結於蒙陰東南、臨沂西北待機，以求殲敵第1兵團大部於臨沂、郯城地區。3月底4月初，我軍各部按計劃向南開進。但我軍行動為敵察覺，我軍意圖未能實現，部隊停止在新泰、蒙陰、十字路之線待機。4月2日晨，我軍第3縱隊由魯南向北轉移途中，在放城全殲敵第11師搜索營。
4月中旬，敵人按捺不住了，全線發起進攻；除以第1、第2兵團各一部位臨沂、泰安擔任防禦外，主力指向新泰、蒙陰。
華野司令部於4月20日擬定了泰蒙戰役計劃，預定第一步以第10、第3、第1等3個縱隊，攻擊敵最左翼泰安守敵整編第72師，吸引敵第2兵團的整編第75師、第85師由大汶口北援而殲滅之，並誘進犯新泰、蒙陰之敵回援，而後視情況，以野戰軍主力分批尋殲回援之敵第5軍及整編第11師等部於大汶口、太平邑地區。根據上述部署，第10縱隊配屬特種兵縱隊105榴彈炮營，於22日開始圍攻泰安守敵第72師；第3縱隊進至泰安以南鐵路西側，第1縱隊進至泰安以南鐵路東側，形成夾擊之勢。至24日，大汶口之敵仍無北援征候，華野司令部決定增調第3縱隊協同第10縱隊強攻泰安城守敵第72師，留第1縱隊繼續監視大汶口之敵。