孔邑將全軍分為前、後、左、中、右五軍：來異、王緒率兩百騎兵為前鋒，打赤旗（前朱雀）、戴赤羽；宋敏率二百五十弓弩兵為後軍，打黑旗（後玄武）、戴黑羽；霍彌率四百步卒為左軍，打蒼旗（左青龍）、戴蒼羽；戴邵率四百步卒為右軍，打白旗（右白虎）、戴白羽；最後是孔邑率七十親衛騎兵、一百親衛步卒為中軍，打黃旗、戴黃羽。
劃分好各軍之後，孔邑親自向除來異、王緒之外的各軍各屯頒發了“將旗”、徽章，之後便是教兵卒辨識旗羽、徽章、隊列，花了整整兩天之後，兵卒終於知曉了各軍對應的五色將旗，也熟悉了徽章、隊列。之後便是訓練兵卒辨金鼓、知進退，也即以“金鼓鈴旗”勒兵之法，孔邑又親為軍法官，監督全軍嚴格訓練，對不遵號令、高聲喧嘩者嚴懲不貸，對偷盜、搶劫或奸（和諧）淫（和諧）婦女之兵卒格殺勿論。
《尉繚子》曰：“鼓之則進，重鼓則擊；金之則止，重金則退。鈴，傳令也。旗麾之左則左，麾之右則右……一步一鼓步鼓也，十步一鼓趨鼓也，音不絕鶩（wù）鼓也……鼓失次者有誅，喧嘩者有誅，不聽金鼓鈴旗而動者有誅……”
這段話的大意是：擊鼓前進，重鼓進攻；鳴金止步，重金撤退。用鈴來傳達命令，旗往左揮就向左移動，旗往右揮就向右移動……一步一鼓是慢步前進鼓，十步一鼓是快步前進鼓，鼓聲不斷則是跑步行進……鼓音混亂者處死；大聲喧嘩擾亂鼓音者處死；不聽金鼓鈴旗指揮而擅自行動者處死……
《尉繚子》又曰：“伍長教其四人，以板為鼓，以瓦為金，以竿為旗。擊鼓而進，低旗則趨，鳴金則退，麾而左之，麾而右之，金鼓俱擊而坐。伍長教成，合之什長，什長教成，合之卒長……”，這段話是講如何練兵，大意是：先由伍長教導伍內四人，用木板代替鼓，用瓦器代替金，用竹竿代替旗幟。擊鼓前進，把旗放低就快步前進，鳴金就後退，旗往左揮就向左，旗往右揮就向右，金鼓齊鳴就坐下。伍長教成之後，合為什長，什長教成之後，合為卒長……
按照《尉繚子》所言練了三天之後，兵卒終於做到了聞鼓而進、鳴金而退，也算是有了些精卒強兵的樣子，當然孔邑此次練兵以練步卒為主，這也是為何他命來異、王緒替孫晏、吳茂回來的原因。教會兵卒辨識旗羽、徽章、隊列、金鼓，同時在所有新募兵熟悉軍法之後，孔邑再次開始率領一百親衛步卒、八百普通步卒一起每日不停歇地爬山，而趙雲所率親衛騎兵屯和宋敏所率弓弩兵則各自單獨訓練騎射、步射等。九百步卒披甲佩刀、背負櫓盾、手執矛戟，不停歇地爬了五天，剛剛有些適應的時候，孔邑又命全軍負重爬山，每人除披甲佩刀、背負櫓盾、手執矛戟外，須負重二十斤，三天之後又增加為四十斤，又過了三天之後再增加為五十斤。最後九百步卒披甲佩刀、背負櫓盾、手執矛戟、負重五十斤（東漢斤，約為現在的二十五斤，12.5公斤）連續爬了五天之後，孔邑終於下令去掉負重，開始練習山戰，此時眾人驚奇地發現去掉負重後，身手比以前靈活很多，山戰似乎也容易了不少。
爬山練兵期間左秀、吳牛、王累一起回到元氏，孔邑命左秀隨來異駐守縣寺，吳牛歸隊一起爬山訓練，王累暫時跟著孔勖。爬山之餘，吳牛又向孔邑等人展示了一項自己的絕技：隻見他將兩丈多長的繩子係在發髻上，深吸了口氣，往前奔跑，繩子被扯得直如箭矢，連奔馬都追不上【1】。在場眾人包括顏良無不歎服，孔邑也看得目瞪口呆，良久之後，孔邑感歎道：“阿牛實為征戰疆場而生，將來你闖下名頭用吳牛為名有些不雅，便改為吳疆，字元界吧。”自此吳牛改名為吳疆，又因他能拔距（跳高）近九尺，孔家軍中無人能及，軍中號曰“吳九尺”。另外孔家軍中投石和舉重的記錄保持者均為秦澤，投石秦澤能將十二斤重飛石擲出近一百九十步遠【2】，舉重他能舉起近八百斤重物【3】，又因秦澤口吃，故軍中號曰“口吃烏獲”。
同時在練兵期間，國相府數次派人催孔邑西擊山賊，都被孔邑用準備不足、兵不堪戰而拒絕。另外為了幫兵卒保持充沛的體力，孔邑改一日兩餐為一日三餐，且每三天一頓肉食，反正錢糧皆有國相府所出，不花白不花。
到了四月底，國相府威脅孔邑如果再不出兵，便斷掉錢糧的供應，並言“郡司馬郭耽數日前已率八百弓弩兵、三千二百步卒出發，西擊白石山苦蝤，命孔邑率軍即刻西進，擊討三公山雷公”雲雲。而孔邑又得到消息：涼州刺史左昌貪汙軍餉數千萬，又指揮無方，導致護羌校尉夏育（原段熲麾下驍將）、漢陽長史蓋勳紛紛戰敗，邊章、韓遂、北宮伯玉等人率數萬騎兵長驅直入，殺入三輔，逼近長安。當此危難之際，司徒崔烈竟然建議把涼州割讓出去，劃隴山而治，遭到議郎傅燮的痛批。幸好天子沒有采納崔烈的建議，封傅燮為漢陽太守，與左車騎將軍皇甫嵩、中郎將董卓前去討伐。
聖旨幾日前已下，此刻左車騎將軍皇甫嵩早已離開高邑，擊賊之事不可再等，於是孔邑先回軍元氏，與父親孔伷商議之後，決定如郭耽一般，留下所有騎兵，隻帶二百五十弓弩兵和九百步卒進山擊賊。得知此事後，趙雲執意不肯，並諫言道：“親衛身負主將安危之重任，怎可留在後方？”孔邑無奈便命七十親衛騎兵進山後轉為步卒，隨自己一同出征。又因隊率李定在爬山訓練中表現突出，隊率孫奕為孫晏所舉薦，孔邑便任李定、孫奕為屯長，分屬軍假司馬戴邵和軍司馬霍彌。