瀨穀支隊占領了藤城後，第10師團師團長磯穀廉介得意忘形，他把牛皮吹得震天響，對日本的記者吹噓：“在第10師團麵前，世界上所有的軍隊都形同螞蟻。”
磯穀廉介的牛皮確實吹得太早了。緊接著，在台兒莊，瀨穀支隊進攻受阻，第10師團遭受慘重死亡，日本大本營極不滿意，將磯穀廉介撤換了，新上任的第10師團師團長是筱塚義男中將，這個名字中國人很熟悉，因為他在電視劇《亮劍》中出現過，任日軍華北方麵第一軍司令，經常和那個喜歡吹牛皮的日軍特種部隊指揮官山本一木在一起討論戰略問題，當然，山本一木是虛構的，而筱塚義男中將和山本一木討論李雲龍的獨立團也是虛構的，因為身為日軍第1軍司令官，根本不可能關注到中國軍隊一個團的建製，如果這樣，筱塚義男的身份應該是旅團長而不是司令官。再說，李雲龍所在的八路軍129師獨立團這個番號根本就不存在。翻遍129師的戰史，也找不到李雲龍任團長的獨立團、丁偉任團長的新一團、孔捷任團長的新二團的番號。772團的番號倒有，不過團長不是李雲龍口中的“程瞎子”，而是大名鼎鼎的八路軍名將葉成煥。
在台兒莊戰役中，與中國軍隊對決的，一個是磯穀廉介的第10師團，一個是板垣征四郎的第五師團。
台兒莊戰役打響時，進攻台兒莊的急先鋒是第10師團的瀨穀支隊。而堅守台兒莊的是第二集團軍31師。第二集團軍，說是集團軍，其實編製相當於一個軍，下轄三個師：27師、30師、31師。
抗戰之初，中國的軍隊編製是比較混亂的。按照作戰區域，全國分為十個戰區：第一戰區司令為蔣介石兼任，後為衛立煌，下轄兩個集團軍和一個軍團，兩個集團軍分別為宋哲元的第一集團軍和商震的第20集團軍，一個軍團是湯恩伯的第20軍團。第一集團軍下轄三個軍，番號最小的是張自忠的59軍；第20集團軍隻有32軍；第20軍團有兩個軍，關麟征的52軍就在湯恩伯軍團。第二戰區司令為閻錫山，孫連仲的第二集團軍就在這個戰區。第三戰區司令最初也是蔣介石兼任，後為顧祝同。第四戰區司令為何應欽。第五戰區司令李宗仁，目前正在組織徐州會戰。第六戰區司令陳誠。第七戰區司令劉湘，作戰區域是四川，劉湘死後，因為四川為抗戰大後方，該戰區撤銷。第八戰區司令朱紹良，主要負責甘肅、青海、寧夏一帶的防禦，而日軍從來就沒有打進過這些地方。第九戰區司令薛嶽，主要負責湖南防務，進行過三次長沙會戰。第十戰區是1945年才設立的，司令為李品仙，下轄兩個軍，第7軍和48軍。
抗戰初期，軍是戰略單位，師是基本作戰單位，而集團軍，又介於戰區與軍之間的戰役兵團指揮單位。集團軍有大有小，大的集團軍下麵會有五六個軍，而小的集團軍，比如堅守臨沂的龐炳勳的集團軍下轄一個軍，而這個軍又僅有一個師。說是集團軍，其實隻有一個師。
至於軍團，又和集團軍處於平等位置，抗戰開始不久，軍團的編製就被撤銷了。
31師在台兒莊經曆了一場血戰。
孫連仲知道，依靠劣等裝備是無法與日軍抗衡的，他在戰前告誡戰士們，白天要依靠地形阻擊敵人，夜晚依靠逆襲反擊敵人，沒有命令，誰也不能退出台兒莊一步。
日軍的進攻依然是炮兵轟，坦克衝，坦克後麵跟著螞蟻一樣的步兵。31師麵對日軍的炮兵隻能選擇躲避，麵對日軍的坦克照樣沒有辦法，他們沒有反坦克炮。後來，老兵們就想出了一個土辦法，把20顆手榴彈綁成一束，敢死隊提著這樣的集束手榴彈去炸坦克。即使僥幸炸毀了坦克，而敢死隊員也不會活著回來，因為坦克後麵是密密麻麻的日軍步兵。
10日後，日軍攻破了台兒莊的東南門，侵入城內百餘米，同時釋放毒氣。中國守軍死亡高達十分之八。
李宗仁一麵催促還在路上的湯恩伯軍團疾速增援，一麵詢問台兒莊戰況，讓孫連仲無論如何也要堅持到第二天拂曉。李宗仁詢問孫連仲有無決心，孫連仲斬釘截鐵地回答：“我第二集團軍縱然犧牲殆盡，也不後退一步，連仲亦以一死報國家。”
孫連仲集合所有可用之兵，準備午夜逆襲日軍。
一直在台兒莊苦戰的31師師長池峰城打來電話，說日軍攻勢甚猛，我軍傷亡幾乎殆盡，請示可否讓殘軍退出台兒莊，撤至運河南岸。孫連仲命令道：“士兵打完了，你自己填上去。你填過了，我就來填進。有敢過河者，殺無赦！”