十五萬精銳京軍，分編十團營。每團營一萬五千人，置都督一人，統率本營，叫做“坐營都督”。每一坐營都督下，設都指揮三人，各統領軍士五千人。每一都指揮下又設把總五人，各統領軍士一千人。每一把總下又設指揮二人，各統領軍士五百人。每一指揮下，設領隊官五人，各領軍士一百人。每一領隊官下設管隊二人，各領軍士五十人。以上十團營，共設總兵官一人，由石亨充任，受兵部尚書於謙節製。
於謙對京營的改革，改變了京軍各營互不統一，每遇調遣，號令紛更，兵將不識的偷怠紊亂情況。於謙更積極招募兵民，充實軍隊的作戰力量，遣使分募直隸、山東、山西、河南民壯，拔山西義勇守大同，並用民兵防守紫荊關、倒馬關兩關。這些措施，特別是新軍（十營團）的建立以及戰守部署等，使明朝的國防漸趨鞏固。
盡心社稷小人忌恨
就在於謙日以繼夜、鞠躬盡瘁地為國事操勞之時，明王朝內部的一些小人卻在妒忌於謙的功績，怨恨於謙，處處牽製他，與他作對。
正統景泰之際的形勢和環境，使於謙這樣的忠正卓越之士脫穎而出。景泰初元，於謙實際上是以兵部尚書和總督軍務的身份，成了支撐明廷政治運轉的核心人物。
於謙出任兵部尚書之時，也先勢力擴張，而福建有鄧茂七、浙江有葉宗留餘部，廣東有黃肅養的起義，湖廣、貴州、廣西苗、瑤、壯等少數民族人民也紛紛起來反抗貪官汙吏，明王朝的統治正經受嚴峻考驗。為了維護明王朝的統治，於謙調兵遣將，匠心獨運。當戎馬倥傯，變在俄頃，他目視指屈，口具章奏，無不妥當切宜。僚吏受成，相顧驚服。他治軍號令明審，勳臣宿將隻要小有違紀之處，他即請旨切責，片紙行萬裏外，靡不惕息。為了培養一支訓練有素、戰鬥力強大的中央直屬部隊，他又將殘損的三大營改組為團營。他才略開敏，精神周至，一時無有與其相匹者。他至性過人，憂國忘身，全身心投入中興明朝的事業。
於謙的傑出才幹和憂國忘身的崇高品格，深深為景帝所知。他支持於謙，對於於謙的論奏，絕大多數是完全允準的。如景帝曾派內使到真定、河間等府采野菜，到直沽造幹魚，他以為擾民，景帝即作罷。每用一人，景帝必秘密征求於謙的意見，他具實以對，無所隱瞞，不避嫌怨。由此，那些在職而不任事的人無不怨恨於謙，而那些未能得到如於謙那樣重用的人則對他妒嫉橫生。副都禦史羅通，本因於謙的識薦，自一閘官破格拔升而起，但也先剛剛被逐至邊外，他即上疏彈劾於謙上功簿不實，景帝不問。
於謙以兵部尚書掌部事，又總督軍務，在明朝曆史上是一個新例。於謙的前任鄺野曾向恭順侯吳克忠索要軍士名冊稽考，吳克忠按例上聞，鄺野便不得不惶懼上疏謝罪。可見在於謙之前，兵部尚書都無權過問軍士的總數。可是，他不但稽考兵數，而且通過對軍士數目的點閱監督武臣是否私役、賣放軍士；他不但掌管武臣的考選、推舉，而且還是京營事實上的最高統帥。在一些人的眼裏，他的權力太大太專了。於是便有禦史上言，說於謙任事太專，六部大臣同內閣奏行的事，於謙據祖製駁之。戶部尚書金濂上疏斥責其非，景帝最後維護了現行的製度。
於謙性情剛直，對於當時的勳戚貴幸的怯懦貪鄙，多所輕視，因而對於閹黨邪派的陰謀活動，也就警惕不夠。於謙遇到閹黨破壞和搗亂的時候，常憤慨地捫胸歎息，曾說：“此一腔熱血，竟灑何地？”表示決不向他們讓步。
於謙不樹黨，不阿君，盡管景帝比較重用信任他，於謙也不是對景帝無原則地順從。景泰三年五月，景帝廢掉英宗的兒子朱見深的皇太子名義，另立自己的兒子朱見濟為皇太子。景帝這種自私行為，於謙是不讚同的，景帝心中不快，對於謙日漸疏遠，不肯授予於謙全麵行政的實權，僅僅因為邊防多事，才使之長期專任兵部。對此於謙也不是沒有察覺，但他不以為意，仍舊忠心耿耿幹好本職工作。
於謙在其任兵部尚書期間，號令明審，即使是勳臣宿將，隻要稍稍違犯律例，他即請旨切責，毫不留情。因此得罪了一批官僚，使他們站在於謙的對立麵，成為於謙的敵視者。
徐埕，後改名有貞。在土木英宗被俘後，曾主張遷都南方，遭到於謙等主戰派的駁斥和內廷的訕笑。此後他久不得誌，便攀附要人以求升官。他送給大學士陳循一條玉帶，並用術士的口氣預言道：“公帶馬上就要換成玉的了。”不久，陳循果然加官為少保，非常高興，於是便多次保薦他。當時用人多取決於於謙的意見，徐埕便托於謙的門下士遊說，求升國子監祭酒。於謙覺得他頗有才氣，便托內使轉達景帝，保薦他。