研製“山鷹”的初衷是由我國空軍訓練體製的不完善引起的。從20世紀80年代後期開始，空軍培養戰鬥機飛行員遵循初教6—殲教5—殲教7這樣一個逐漸改裝的順序。但現有教練機飛行包線和起降速度都與現役戰鬥機有較大差別，無法擔當高級訓練任務，造成放單飛前訓練架次平均增加了1倍以上。
空軍非常需要一種真正的高級教練機。同時，第三代戰鬥機大量裝備部隊，也對飛行訓練提出了新的要求。貴航集團經過分析空軍訓練體製現狀，對高級教練機市場進行調研並與空軍溝通後，決定在集團內部自行立項，啟動新型高級教練機項目。
新型高教機要與第三代戰鬥機銜接，教練機駕駛艙的人機界麵要與第三代戰鬥機相似。“山鷹”駕駛艙儀表采用“一平兩下”布局，平視顯示器和下視顯示器是主顯示器，獨立的電子飛行儀表是主顯示器的任務備份，而應急儀表是前兩套數字顯示係統的備份。之所以同時設置這樣三套顯示設備，既是為了確保教練機擁有較高的安全性，也是為了方便飛行員從第二代戰鬥機向第三代戰鬥機過渡。
貴航集團在開發“山鷹”時就已深謀遠慮，為了在市場競爭中取勝，“山鷹”在性能定位方麵並不隻作為一個教練機，在設計中還考慮到“山鷹”擔負訓練和作戰值班的雙重任務。此外，“山鷹”改裝潛力要大，它可以根據用戶需要隨時加裝激光製導吊艙和對地攻擊武器改裝成戰鬥機，也可以把後座艙騰出來安裝電子幹擾裝置，成為電子幹擾機；如果換裝推力更大的新型渦輪風扇發動機，那麼飛機性能還能再上一個檔次，載彈量可達到3．5噸左右。屆時，“山鷹”作戰效能將完全超過我國空軍現役的強5攻擊機。
2001年1月，貴航集團按市場經濟運作規律，自籌資金，研製新型高級教練機。該機的典型訓練任務是：裝備飛行學院，完成戰鬥機飛行員的高級訓練任務；裝備第二代及其改型戰鬥機的訓練基地，完成改裝訓練任務；裝備第三代戰鬥機的訓練基地，完成改裝過渡訓練任務；裝備航空兵部隊，進行基本戰術和技能保持飛行訓練。
2002年12月13日，“山鷹”高級教練機騰空而起，翱翔藍天，成功地完成了首次飛行。試飛證明，“山鷹”具備了優異的飛行性能，能與三代機之間合理銜接，實現飛行訓練各階段順利過渡。
設計人員突破傳統設計理念，在“山鷹”氣動布局上大膽創新，采用雙三角翼和兩側肋下進氣等先進設計，有效地改善了起降性能和座艙視野。“山鷹”教練機采用高升阻比的雙三角翼設計，機翼前緣具有外段和內段兩個不同的後掠角。在研製過程中，設計人員充分借鑒了其他戰鬥機的機翼設計，針對“山鷹”教練機的特殊使用要求，進一步優化了機翼設計參數。從起降性能參數看，“山鷹”教練機與第三代戰鬥機等較為接近，可以較好地承擔起第三代戰鬥機飛行員訓練的銜接和過渡角色。機翼前緣采用局部扭轉技術，提高了飛機在高亞聲速時的巡航性能，並在機翼結構中采用了全新的外翼整體油箱，增加了機內儲油量。這樣，“山鷹”留空時間延長了半小時。新型機翼是“山鷹”教練機具備第三代戰鬥機飛行特性的最根本保證。
“山鷹”采用兩側肋下進氣布局，明顯增大了機頭下沉量，加上采用整體圓弧風擋，使飛行員前方視野更加開闊。
“山鷹”教練機選用國內較為先進和成熟的渦噴13F（C）型發動機。該發動機具有推力大、價格低的特點，交付部隊使用後達到較高的可靠性和出勤率。
遵循“上接第三代戰鬥機”的設計思路，設計人員在“山鷹”教練機機載電子設備方麵采用了多種新技術，通過雙餘度數據總線，綜合顯控管理係統的人機界麵，將任務計算機、大氣數據計算機、火控雷達、導航、武器外掛管理等分係統連接起來，組成了綜合航電係統。
全新的座艙布局解決了以往飛機座艙內儀表擁擠、顯示控製分散等問題，減輕了飛行員的負擔，可以更加快捷地獲取、判讀各種信息，在人機界麵和座艙環境方麵滿足了適應先進戰鬥機對飛行員的訓練要求。飛行員在雙手不離駕駛杆和油門杆的情況下，可以完成飛行和作戰訓練等各項操作，有利於飛行員集中精力，提高人機工效。