練了步伐還要練隊形，比如橫隊、縱隊、三角陣位、楔型陣位，還有轉向保護、交叉掩護……都要練。大部隊有大陣型，小單位有小隊形，什麼情況下戰馬的間距應該是多少，都用木棍比著尺寸，不能有差錯。
口令也要練。過去，騎兵口令是隨便喊，跟在家裏吆喝牲口沒什麼兩樣。有時候部隊行軍，路上遇到個騎驢的老頭，老頭衝小毛驢叫一聲“駕”，騎兵的軍馬全都跟著跑。曾團長說這樣不行，重新練！於是兩個月以後戰馬就都服從“前進”、“衝鋒”、“立正”的命令了。
練習新技術，無論是新兵還是老兵都得下大力氣。
大劉的班上有兩個老兵——王占奎（1942年犧牲）和劉金魁。王占奎是投誠的俘虜，原先是西北軍的馬夫，而劉金魁是被撤職離開團部斥候隊的。“川老漢”受處分的原因是他遛馬的時候到河邊洗衣服，結果戰馬偷跑進老百姓的菜地，吃掉了好一大片苜蓿。老鄉們告到團部，劉金魁副排長隻好卷起鋪蓋到二連來當兵。不過他好像挺無所謂的，還嬉皮笑臉地說：“老子洗衣服洗褲子，一不小心把官帽洗脫了。”
劉春雷成天和兩個老兵一起練“乘馬越障”。這個項目對戰馬是個考驗，開始的時候，由騎手牽著韁繩、引導戰馬空鞍跨欄杆，等馬匹跳習慣了再騎上馬練習越障。大劉的“公雞”個子雖小，卻很聽話，練了不到一個月就能跨坡坎、過壕溝了。可劉金魁的戰馬卻不行，兩個籮筐上麵擺一根扁擔，它跑到跟前就站住，死活不肯跳過去，氣得“川老漢”直罵：“憨馬兒，傻大個，隻曉得偷苜蓿吃！”“你跳不跳？再不跳，老子處分你！”馬兒還是不跳。
也許是老兵原先的技術已經定型，改練新動作反而比新兵慢，因此有好些人想不通：“照原來的樣子就挺好的，何必再搞一套？別新的沒學會，舊的又忘了……”曾團長的態度卻十分堅定：“要練！練好一個兵算一個兵，練出一個連算一個連。”
於是大家叫苦連天：況政委的“整風”勁頭剛下去，曾團長的“整馬”勁頭又上來了，真是累死人……
在騎兵團，四連的訓練是最積極的。四連是新連隊，當時全團四個連，一、二、三連是紅軍連，黑馬、紅馬、白馬，行軍出動整齊漂亮；唯獨四連的戰馬是雜色的。老百姓以為四連是雜牌，就不大看得上眼，遇見“黑馬連”、“紅馬連”，趕緊拿出白麵饃饃熱情款待；而“花馬連”
一到，就把好東西收起來，換成高粱餅子，實在有些氣人。
韓永正是個好麵子的人，他到四連當連長，把他的強脾氣也帶到了四連。戰士們不好和老百姓生氣，就和其他連隊較勁。別人劈刺一百，他們就來一百五；別人練一對一，他們還練一對二。打仗嗷嗷叫，評功嗷嗷叫，就連唱歌、搞運動會也要爭個麵紅耳赤。說雜色馬不好，四連的戰馬就不和其他連隊的拴在一起，自己調教，照看得特別有精神。而且還不許別人叫他們“花馬連”，自稱是“鐵騎兵連”（這名字可比“紅馬團”、“白馬團”響亮得多）。一來二去的，四連的軍事技術就逐漸在全團遙遙領先，“鐵騎兵”的名聲也傳出去了。
曾玉良堅持改練新技術，其實是想改變騎兵團的戰法。
騎兵的分類五花八門，但簡單說來就是兩種：騎馬打仗的和不騎馬打仗的。一二九師騎兵團原先就屬於“不騎馬打仗的”，其基本戰法是乘騎行軍、下馬作戰，說好聽點是“槍騎兵”（和現在“摩托化步兵”的意思差不多），說明白點就是騎馬的步兵。在這類騎兵中，戰馬主要是作為運輸工具，戰士們也主要是趴在地上打槍。
這種戰法不好看，但這種戰法是符合潮流的。一戰以後，各國軍隊都認識到：騎兵在機槍重炮的密集火力麵前列隊衝鋒，純屬找死。因此大家都走了“槍騎兵”的路子——行軍的時候利用戰馬提高行進速度、擴大活動範圍，打仗的時候放棄乘馬衝擊，下馬徒步作戰。
在當時，不僅八路軍騎兵是下馬作戰的，國民黨騎兵也是。西北“青馬”、“寧馬”是“槍騎兵”，日本騎兵也是“槍騎兵”。所以，雖然中日雙方都有騎兵部隊投入戰場，但在戰鬥中就極少能遇到騎馬對殺的場麵，因為大家都趴在地上打槍，誰想耍馬刀格鬥也沒人肯接招。
“槍騎兵”擔任追擊、包抄、穿插任務，比步兵走得快也走得遠，還能攜帶一些重武器參與進攻和防禦。但是，“槍騎兵”下馬作戰的時候需要可靠的“馬樁”，這就要求他們必須保證後方基地的穩固。換句話說，對“槍騎兵”而言，行軍時戰馬是重要的工具；作戰時戰馬卻成了沉重的拖累，一旦腹背受敵，就有被殲滅的危險——這在遊擊作戰的環境下顯然是十分不利的。
因此，曾玉良就想改變下馬作戰的風格，把一二九師騎兵團變成“輕騎兵”。
輕騎兵采用乘騎作戰方式。如果說“槍騎兵”是“打了就走”，那輕騎兵就是“邊打邊走”。和“槍騎兵”相比，輕騎兵更加快捷、衝擊力更大，但同時也存在著負重能力差、防禦能力弱的缺點。由於自身無法攜帶重武器，缺乏攻堅手段和防禦手段，輕騎兵更容易受到敵方重火力的打擊。
在機動性和抗打擊能力的取舍上，曾玉良團長選擇了前者。他認為：“日軍的火力雖然猛，但華北平原這麼大，鬼子部隊分散，不可能把機槍大炮集中起來對付我們。隻要我們走得快，遊動及時，就一定能戰鬥下去。”事實證明他的判斷是對的。1942年以前，在冀魯豫敵後戰場上活躍著四支八路軍騎兵團，隻有一二九師騎兵團改成了輕騎兵，也隻有一二九師騎兵團堅持到了抗戰勝利。
“百團大戰”之後，抗日局麵一派大好。1940年底，日偽政府在其占領區搞了一次“治安綜合評定”，評分標準包括四個大項、二十個小項。評來評去，“重要地區評比”中河北、山東的交界地區最差；“河北評比”中冀中最差；“山東評比”中魯西最差。騎兵團當時在魯西北，聽說這個成績，大家都樂了，紛紛表示要繼續努力，爭取“全國倒數第一”。
日本鬼子急了，製定了《肅正建設三年計劃》，從華東抽調第十七、第三十七師團到華北搞“強化治安運動”，采取“囚籠政策”，企圖用鐵路、公路、封鎖溝和據點圍困住我抗日軍民。
就在日軍加緊對華北實施“強化治安”、大“掃蕩”的時候，1941年1月，國民黨製造了駭人聽聞的“皖南事變”。為救援新四軍遇難部隊，冀南的新四旅不得不緊急南下，留在根據地的八路軍主力就隻剩下新七旅和新八旅，而新七旅在剛結束的“百團大戰”中部隊減員嚴重，新八旅（由先遣縱隊和“築先縱隊”合並而成）的戰鬥力又比較弱，這就使得陳再道司令員在反擊日軍時難免捉襟見肘。因此，一二九師騎兵團奉命回到冀南、受軍區領導直接指揮，擔任戰區的機動力量，承擔起“救火隊”的重任。騎兵們沒有辜負首長的信任，麵對日益惡化的形勢，他們積極拔除據點，破壞封鎖溝，襲擊敵交通線，給日偽軍以沉重的打擊。