84軍的組建
84軍組建於武漢會戰前夕。1938年春夏，桂係為支援抗戰以桂南的幾個獨立團為基礎組建為188師和189師，每師轄三個團，分別調中央軍校南寧分校教育長劉任與176師副師長淩壓西充任兩師師長，其餘各級軍官由中央軍校南寧分校（南寧軍校）調配。6月初，該兩師從南寧乘船下廣州，經粵漢線北上參戰。6月底，該兩師到達武漢，合編為84軍，列入第五戰區作戰序列。31軍副軍長覃連芳調任該軍軍長。這支新建部隊大多數官兵都沒有作戰經驗，但因其各級軍官多為軍校出身，政治素質較好，軍紀嚴明，與群眾關係融洽。當年8月的《民國日報》就報導稱：“廣濟的民眾告訴記者：日前五路軍淩師長、劉師長經過這裏，軍紀很好，秋毫無犯，還給老百姓東西，打掃衛生，對人客氣，公平買賣，商人都願意賣東西給他們。現聞該軍又重申禁令，凡是擾亂民眾事實確實的，得先斬後報。”
會戰黃廣
6月12日，日軍攻陷長江重鎮安慶，武漢會戰的大幕正式拉開。7月初，84軍奉命開到廣濟，構築陣地並加強訓練。
8月3日早上，日軍3師團兩個聯隊，在與68軍戰鬥一晝夜後，占領黃梅。隨後，雙方在黃梅城郊展開了三天的拉鋸戰。6日，68軍、48軍、84軍等部根據第五戰區代司令長官白崇禧的命令，向太湖、黃梅、宿鬆等地展開反攻。14日，84軍反攻黃梅。188師擔任主攻。當時，188師師長劉任從未經曆戰陣，貪生怕死，不敢上前線，派副師長劉建常到前沿指揮，自己則率幾個親信躲在軍部後麵觀察動靜，隨時準備拔腿開溜。而劉建常也一向在軍校搞教育工作，毫無作戰經驗。他在接到命令後，在敵情不明、又未與189師取得聯係的情況下草率發動進攻。開始攻勢很猛，偽軍望風而逃。但當188師攻至離城三、四公裏時，受阻於敵陣鐵絲網前，遭到敵密集火力攻擊，傷亡慘重。與此同時，日軍從西南方向向我側後包抄，我軍被迫撤出戰鬥。
28日，84軍又協同68軍、48軍176師再次向反攻黃梅，激戰兩晝夜，占領了離城5裏的魏家涼亭，但日軍從兩翼出擊，將176師包圍於雙城駟。188師副師長劉建常親率1101團和1102團赴援，雖救出了176師，但部隊損失慘重。其中，由1102團團長李漢光親自率領進攻雙城駟的一個營子陷入重圍，幾乎全部犧牲，僅李漢光率8名士兵逃回。到30日，國軍攻擊受挫。這時第五戰區司令長官部轉來軍令部關於保衛廣濟的指示。覃連芳遂作出如下部署：189師以縣城附近沿黃廣公路據點為依托，阻擊由黃梅出犯之敵；188師除留一個團作為軍預備隊外，主力協同友軍固守廣濟縣城；軍部位於廣濟以北，軍直屬炮兵配屬188師作戰。但189師認為黃梅縣城附近地勢開闊，不利於防守。覃連芳遂調整部署：189師黃梅城北5裏的大洋廟山口一帶，以沿黃廣公路各要點為前進據點；188師仍照前令留一個團為軍預備隊外，主力移至大河鋪，沿黃廣公路右側高地占領陣地，左與189師左翼相鄰。84軍的這一調整看上去兩個師可相互配合，似乎很合理，但在實際執行中卻出現了一個致命錯誤。188師擔任實際指揮工作的副師長劉建常雖經曆前期的攻勢作戰，積累了一些作戰經驗，但對防禦作戰仍無多大認識。在部署時他將師主力全部一線展開，無縱深配備，一點突破則全師崩潰。到那時，軍預備隊尚在廣濟附近，189師也來不及派兵堵住缺口，則全軍潰敗在所難免。後來，這個防禦上的弱點成了整個84軍作戰失利的直接原因。
31日，日軍6師團分幾路縱隊向黃梅附近國軍陣地發動全線進攻，攻擊重點在大洋廟山口。日軍先以炮兵及飛機猛烈轟擊189師陣地，繼以騎兵領頭衝鋒。我軍依托堅固陣地，組織稠密火網進行抵抗。由於我陣地前地勢開闊平坦，迫擊炮、重機槍都能發揮很大效力，日軍在進攻第一天即遭受重大殺傷。日軍指揮官見白天強攻不行，遂改為夜襲。當夜，日軍襲占我陣地左翼前沿之小高地。這個據點是國軍陣地的關鍵部分，它的得失關係到整個戰線的穩定。189師師長淩壓西得到該陣地失守的消息後，大為震驚，立即組織部隊反擊。於是，雙方在這個不大的小高地上展開肉搏，槍炮聲、喊殺聲、武器的碰撞聲響成一遍。經過一夜爭奪，小高地兩失兩得，日軍終於支持不住，向後潰逃。第二天，日軍不甘心失敗，又重新發動了新的進攻。一連打了兩天，大洋廟陣地仍巍然不動。9月2日，日軍改變了戰術，除留一部佯攻大洋廟山口、牽製189師外，主力向188師進攻。由於188師前期作戰損失太大，打了兩天就頂不住了。4日，日軍突破大河鋪中央陣地。因188師是一線配置，無預備隊，一點突破則全線崩潰。軍預備隊奉命趕去增援，亦無濟於事。守備部隊被敵截為兩段。劉建常率右翼之一部倉皇向後撤退。當該師的潰兵湧進覃連芳的軍部時，他這才發現188師師長劉任沒有在前線。覃連芳氣得暴跳如雷，大喊除奸，旋即命令189師撤離陣地。在轉移過程中，189師1106團團長黃伯銘被日軍的飛機嚇破了膽，輕棄大洋廟山口前的掩護陣地，擅自率全團躲進山溝，致使全師受到日軍追擊，損失慘重。
武漢失守後，84軍即奉命轉移至隨縣附近構築工事，隨時準備迎擊由武漢及平漢線來犯之敵。不久，188師調走，長官部另撥48軍173師（師長鍾毅）、174師（師長張光瑋）歸84軍建製，並將189師改為兩旅四團製，每團兵員也由一千五六百人增至兩千人。
39年3月，京（山）鍾（祥）戰役失利，日軍進迫隨縣。84軍憑借既設陣地與敵周旋，終於在友軍的協助下穩定了戰線，與敵形成了對峙。3月下旬起，第五戰區根據軍委會的指示，向當麵之敵發起“四月攻勢”。84軍奉命出擊，在板凳崗、七裏崗、高城等地與敵激戰，取得一定戰果。4月底，日軍為報複國軍之攻勢，圍殲我第五戰區主力，集中了三個半師團的兵力向鄂北、豫南地區發動了大規模進攻。
4月30日，日軍3師團從郝家店、徐家店向84軍出擊部隊173師和174師進攻。國軍節節抵抗，逐次向隨縣方向轉進。迄5月1日，日軍陷吳家店、泉口店及萬家店。173師與174師被迫轉移至塔兒灣一線。84軍遂命令189師為右翼防守小朱家灣、大張家灣迄槐樹灣之線，174師為左翼占領槐樹灣迄高城之線，173師則在萬家河東岸兩側高地構築工事，準備迎擊敵軍。5月2日，日軍追至塔兒灣附近，日軍以3000餘人在坦克、飛機、火炮的掩護下對174師、173師發起進攻，另以3000餘人撲向位於高城以東的13軍，同時以一小部兵力攻擊189師陣地，作為牽製。一場慘烈悲壯的搏殺就此展開。
2日拂曉，日軍首先集中了12門重炮和數架飛機猛轟我84軍陣地。一顆顆炮彈帶著刺耳的尖叫，飛向我軍陣地。一時間，我軍前沿工事及其周圍爆炸聲此起彼伏，陣地前的黑土被掀了一層又一層。兩小時後，日軍前線指揮官通過望遠鏡發現我軍前沿工事受到嚴重破壞，認為工事裏的我軍已所剩無幾了，遂命令步兵開始衝鋒。可他萬萬沒想到，就在其步兵接近我軍陣地前沿時，突然遭到我強大的步兵火力急襲攻擊，傷亡慘重，不得不退了回來。日軍前線指揮官頓時目瞪口呆。到底是怎麼回事呢？原來，我軍布防時，在前沿陣地構築了很多偽裝工事，這些偽裝工事後麵又挖了很多散兵坑。我軍的士兵都隱蔽在這些散兵坑中。這樣，敵人在炮擊時就誤以為我軍士兵全在偽裝工事內。因而，被其炮火所摧毀的隻是我軍的偽裝工事，而後麵的散兵坑和我軍阻擊部隊則毫發無傷。日軍在第一次衝鋒失敗後，惱羞成怒，稍事休整後又組織了第二次進攻。我軍頑強抵抗，每一個據點均反複爭奪，戰至陣地被完全摧毀、無法立足時，方才放棄，戰況至為激烈。塔兒灣陣地失而複得達7次之多。就這樣打了兩天，日軍雖付出沉重代價，卻隻占了幾個次要高地。4日，日軍以火炮和飛機向我軍陣地施放毒氣。我軍由於缺乏防毒裝備和訓練，大量士兵被毒氣熏倒，各部戰鬥力大減。當天下午，日軍步兵再次發起攻擊，突破我173師所屬兩個旅的結合部，我軍增援不及，塔兒灣、官家寨失守。173師和174師隻得轉守周家灣、竹林灣、高廟坡及南北高地之線。同時，13軍也放棄高城，退至殷家店、劉家河、天河口一線，繼續戰鬥。戰至8日，雙方損失均重，戰局始終呈現僵持狀態。當晚8時許，84軍和13軍接到長官部電令：棗陽失守，火速向樊城轉進。