1938年3月20日，日軍磯穀師團借攻克滕縣之威，在飛機的掩護下，集中4萬
人，配以坦克、大炮，向台兒莊發動了猛烈的進攻，企圖一舉攻占徐州。
李宗仁以第2集團軍總司令孫連仲率部固守台兒莊，第20軍團軍團長湯恩伯參謀長封裔忠率部讓開津浦鐵路正麵，轉入蘭陵及其西北雲穀山區，誘敵深入，待機破敵。
國民政府軍事委員會關於台兒莊戰役的意圖和部署是，以擅長固守的原西北軍孫連仲部防守台兒莊運河一線，一方麵防堵日軍進窺徐州，一方麵將驕狂冒進的磯穀師團吸引到嶧縣南部地區，而後以隱藏於嶧縣東北山區的湯恩伯第20軍團拊敵側背，加以聚殲。日軍的作戰意圖是：“確保韓莊、台兒莊一線，並警備臨城、嶧縣，同時用盡可能多的兵力向沂州方麵突擊，協助第5師團戰鬥。
1938年3月23日，日軍由棗莊南下，在台兒莊北側的康莊、泥溝地區與守軍警戒部隊接
台兒莊戰役要圖
台兒莊戰役要圖
戰。為誘敵深入，第31師劉蘭齋連長率騎兵連從台兒莊出發，向嶧縣方向搜索前進，91旅旅長乜子彬率183團跟進，在嶧縣城南20裏康莊與日軍遭遇。台兒莊地區戰鬥正式打響，中國軍隊馬隊為誘敵深入邊打邊撤，1938年3月24日，日軍逼近台兒莊開始向台兒莊地區大舉進攻。
28日，日軍攻入台兒莊西北角，謀取西門，切斷中國守軍第31師師部與莊內的聯係。該師師長池峰城指揮，以強大炮火壓製敵人，並組織數十名敢死隊員，與敵肉搏格鬥。湯恩伯軍團關麟征第52軍和王仲廉第85軍在外線向棗莊、嶧縣日軍側背攻擊。
3月29日，日軍瀨穀支隊再以兵力支援，並占領了台兒莊東半部。29日，林蔚轉述******的電令：台兒莊屏障徐海，關係第二期作戰至巨，故以第二集團軍全力保守，即存一兵一卒，亦須本犧牲精神，努力死拚，如果失守，不特全體官兵應加重罰，即李長官、白副總長、林次長亦有處分。
31日，國軍守軍將進入台兒莊地區的瀨穀支隊完全包圍。是時，阪本支隊由臨沂轉向台兒莊馳援，到達向城、愛曲地區，側擊第20軍團。該軍團即命第52軍和剛到的第75軍圍攻阪本支隊。激戰數日，予日軍以重創，使其救援瀨穀支隊的計劃落空。
磯穀師團見救援無望，決定以死相拚，一個個殺紅了眼。***軍隊雖以5倍的兵力圍攻，並付出極大的傷亡代價，但難以將敵人消滅，戰爭一時呈膠著狀態。