聶榮臻率領徐海東旅不久也到了上寨，與隱蔽集結在此的陳光旅會合。此時重鎮靈丘已失，國軍正往平型關方向敗退，聶榮臻命部隊避開大路，從小路穿過龍泉關，繞道阜平北來到上寨，以避免敗軍影響軍心。
喬溝血戰
參戰各部夤夜冒雨相繼到達伏擊位置，三個多團拉開了二十餘華裏的戰線。
接近黎明時分，大雨方歇。戰士們顧不上身上的泥水，最後一次擦拭武器，檢查彈藥：每人一百發子彈和兩顆手榴彈，外加一把大刀，據說長城抗戰的時候，日軍最怕中國軍隊的大刀。
簡易公路靈丘方向，終於出現了日軍行軍縱隊的影子。一百餘輛滿載軍用物資、拉著武器的汽車緩慢開來，後麵是兩百多輛大車和騾馬炮隊，由少量騎兵護送，在狹窄泥濘的公路上蠕動，近處的戰士已經能聽到日語的口令聲，能看到日軍士兵斜背著的步槍，顯然沒有做好戰鬥準備。
在華北屢戰屢勝的日軍養成了輕狂冒進的習慣，常以數百人或一個聯隊離開主力二三天行程，前不久的南口之戰麵對國軍湯恩伯的大軍，日軍竟以一個聯隊迂回懷來，離開主力五天行程，可見目中無人到何種程度。此次日軍依然如故，前方既不設尖兵探路，兩翼也沒有搜索部隊警戒，大搖大擺走進死亡之地。
當聶榮臻的懷表時針指向7點的時候，林彪下達了攻擊命令。
擔任中間突擊的李天佑團是伏擊戰的重頭戲。
出發前本來可以小睡，但由於全團竟然沒有一隻鍾表不好掌握時間，隻好枕戈待旦。日軍已經全部進入伏擊圈，而且車隊在興莊至老爺廟之間形成了擁堵，人馬車炮擠成一團，最容易受到殺傷。隨著李天佑攻擊的口令，前麵一輛汽車瞬時中彈起火阻塞了道路。日軍對突如其來的打擊有些驚慌失措，但很快清醒過來，在揮舞著戰刀的軍官指揮下，尋找有利地形開始頑強抵抗。
林彪命李天佑火速趕到師部，李天佑從團部貓著腰穿過一片穀子地來到一裏外的師部時，已經氣喘喘。
“沉著些！”林彪話依然不多，每個句子都很短，“看到了嗎？日軍很多，很頑強，戰鬥不會馬上結束的。”
李天佑拿起望遠鏡向公路上望去，隻見日軍正展開戰鬥隊形節節抵抗，一股身穿黃軍裝、腳蹬皮靴的日軍正有組織地公路西北一側的製高點——老爺廟方向攀爬。那裏是一座沒有太多樹木遮蓋的禿山，約三四百米高，山腰處有一座不大的古廟名叫老爺廟。
林彪目光中透著殺意：“你們以一個營搶占老爺廟，拿下製高點！”
當李天佑離開師部的時候，林彪忽然叮囑了一句：“你們動作要快，慢了是不行的！”
按照原定計劃，李天佑隻須把公路上的敵人分成幾段逐一殲滅即可，但此時若不拿下老爺廟，這個任務幾乎不可能完成。僅憑東南側的火力已經壓製不住公路上的日軍，從埋伏地衝向公路的指戰員一個一個被撂倒，如果再讓日軍占領了老爺廟，八路軍占有的地形優勢將不複存在。
製高點在軍事上的作用舉足輕重。那麼身經百戰且出身黃埔軍校的林彪為什麼不事先占領老爺廟呢？這是因為這場伏擊戰一開始就被設計成“一翼伏擊”，即隻在道路的東南側發起攻擊。
林彪先後三次勘察地形，發現公路西北側山高坡陡不易攀登，衝下公路也不容易，不易發揮“三猛戰術”中的“猛衝”；此地地勢雖高卻植被稀少，伏兵很難躲過日軍飛機的空中偵查。而東南側山低坡緩，既利於隱蔽又易於出擊，因此林彪有意將重兵用於東南一側，他希望這場伏擊戰速戰速決，在主要方向上投入占絕對優勢的兵力也符合戰術要求。現在局麵發生了變化，速戰速決變成了膠著，於是林彪果斷變更戰術，將一翼伏擊，變為兩麵夾擊。
李天佑把搶占老爺廟的任務交給了三營，他們的陣地離老爺廟最近。
“不要怕傷亡，猛衝！一定要拿下老爺廟！”李天佑咬緊牙關命令三營。
又是一陣火力急襲。三營戰士在硝煙中奮力向前，終於衝上公路與日軍展開白刃格鬥，閃動的刀光、飛舞的槍托，吼殺聲、爆炸聲攪成一團。用了半個小時打通公路之後，衝上老爺廟，在二營援助下占領了製高點，將山上的少量日軍消滅。
戰場形勢立刻得到改觀，八路軍戰士居高臨下，打得公路上固守待援的日軍無處躲藏。
日軍再此集中兵力猛攻老爺廟，但為時已晚。由於山路狹窄，日軍大炮失去了仰角，騎兵也不能發揮作用，前來助戰的六架飛機也無可奈何，隻有穿著皮鞋的步兵成群往上爬，很快被擊退。
戰鬥中副團長楊勇負傷，三營營長負傷，下屬的九連大部分傷亡，隻剩了十多個人。李天佑把團指揮所移到公路西北側，下令一定要堅持到最後一槍一彈，並做好肉搏準備，等待兄弟部隊夾攻日軍。
擔任“攔頭”的楊得誌此刻抽不出兵支援李天佑，他們不僅要殲滅公路上的日軍，還要阻擊從東跑池高地回援的兩千餘日軍。激戰中二營五連連長曾賢生犧牲，全連僅存三十餘人活，三營的兩個連傷亡過半。
擔任“斬尾”的張紹東團最先從戰場上解脫出來，他們將公路上以及韓家灣北側高地的日軍殲滅後，返身殺西南，與李天佑團一起將興莊至老爺廟之間的日軍殲滅。
至此，伏擊戰基本結束，時間為下午一點左右。
蔚縣、淶源的日軍企圖增援，被楊成武的獨立團和騎兵營阻擊於靈丘以北和以東，日軍被斃傷三百餘人。東跑池方向的日軍也出動兵力企圖解圍，被楊得誌所阻不能前進一步。