漢軍和新附軍主要是步兵，繼承了金宋戰法，士兵配有刀、槍、箭、戟等武器，在地形險阻的陣地戰和城塞攻防戰中發揮重要作用。
炮手軍是蒙古在多年征戰中漸漸發展起來的一個兵種。
元太祖成吉思汗九年（1214年），大將木海曾受命擔任隨路炮手達魯花赤，挑選五百餘人，組成第一支炮隊，主要靠繳獲金宋大炮使用。
忽必烈在戰爭中看到了炮石的威力，很想發展炮手軍。他即位以後，聽說回回人阿老瓦丁和亦思馬因等人能夠製造回回炮，立即召至京師大都，讓他們領導工匠成批造炮，並於午門前試放，獲得成功。
至元十年（1273年），元軍久攻襄樊不下，忽必烈遂將亦思馬因等炮匠連同大炮一起送往襄樊前線使用。亦思馬因“置炮於城東南隅，重一百五十斤，機發，聲震天地，所擊無不摧陷，入地七尺”，終於攻克了襄樊。
亦思馬因送往襄樊前線的大炮，實際上是一種巨型拋石機，還不是火藥炮。
蒙古軍隊在滅金之時曾領略了金人鐵火炮“震天雷”的威力，忽必烈所以下決心要造成自己的火炮，不久也獲得了成功。
至元十一年（1274年）和十八年（1281），忽必烈兩次東攻日本，就使用了火炮。有阪詔藏《兵器考·火炮篇》記載，元軍第一次同日軍作戰時，使用的“飛鐵炮火光閃閃，聲震如雷，使人肝膽俱裂，眼昏耳聾，茫然不知所措。”
《太平記》中也有元軍使用鐵火炮同日軍作戰的描寫，球形鐵炮拋出之後，“一次可發射二三千彈丸，日本兵被燒被害者多人。”
當時，日本有一位名叫竹奇季長的畫家，把自己親自經曆的情景畫了下來。其中一幅畫麵上，左邊是元兵，右邊是日本兵，中間地下有一隻鐵火炮，呈炸裂狀，下半完整上半已破裂。可見忽必烈時期火炮也有了重大發展。
忽必烈為了擴充炮手軍，大規模征調炮匠，組織開礦冶煉，製造兵器，設置炮手總管府、回回炮手都元帥府等機構，專門掌管炮兵，將炮手軍建設發展到一個新的階段。
忽必烈對水軍建設亦作出了重要貢獻。早期蒙古軍僅有騎兵，善於陸地作戰，水戰則束手無策。
蒙古滅金以後，發動了攻宋戰爭，宋地江河頗多，經常水戰，蒙古統治者開始意識到建立水軍的重要性。元太祖十年（1238年），蒙古軍將領解誠在對宋作戰中奪得戰船千艘，被任為水軍萬戶兼都水監使，建立了第一支蒙古水軍。
那時的蒙古水軍，主要靠繳獲宋朝戰船作戰，水中作戰技術及靈巧機動等方麵還存在著許不足之處。
忽必烈即位以後，為彌補自己的不足，把大規模建設水軍當成攻宋的首要任務來抓。他任命張榮為水軍萬戶，打造戰船，積極進行水軍建設。
忽必烈采納劉整等人建議，大規模訓練水軍，很快就形成了一支戰船千艘、士兵萬人的水上武裝。
到至元十年（1273年），元軍集結在襄樊前線的水軍已達十六萬人，戰艦已達萬艘，形勢十分可觀。
到至元十六年（1279年），宋元崖山海戰時，元軍以其巨大的衝擊力和機動靈活的水上戰法，大敗宋軍，說明這時元朝的水軍已經不比宋朝差了。
忽必烈又曾出兵攻打日本、安南等國，都出動了大量戰艦，顯示了元朝水軍的威力。
由於忽必烈重視水軍建設，使元朝的軍兵種及其結構發生了重要變化，使原來僅善於陸地作戰的蒙古軍，發展為要陸戰則陸戰，要水戰則水戰，水戰陸戰皆宜的強大武裝。在中國古代軍事建設史占有重要地位。
忽必烈的部隊兵源充足，戰鬥力強，與他所實行的兵役製度是分不開的。
忽必烈在蒙古地區仍然實行全民皆兵製度，蒙古族人不分貴賤長幼，“上馬則屯備戰鬥，下馬則屯聚牧養”。
遇有戰事，“家有男子十五以上、七十以下，無眾寡，盡為軍”。十五歲以下少年皆編入“漸丁軍”（逐漸長成為丁的軍隊），體驗軍隊生活，接受軍事訓練。由於忽必烈時期兵源充足，實際上僅為二丁簽一。
在其他各族中，主要實行軍戶製，軍人單列戶籍，父親退役兒子繼承，世代為兵。征兵時主要以民戶的財產和勞動力狀況為依據，一般多選取中戶為簽軍對象。
每戶單獨出一人應役者，稱獨軍戶。
而那些無丁或無力服兵役的軍戶，則要二三戶或四五戶合出兵員一名，出兵戶為正軍戶，其他為貼軍戶，貼軍戶要資助應征者鞍馬、器杖、盤費等。
如果應役者在戍所病死。一百天以後，該軍戶要派次丁替補；如果應役者戰死沙場，一年以後，該軍戶派丁替補；如果軍戶貧困潦倒，或者年邁無子，經核實以後削落軍籍，但要以別家民戶替補。軍戶種田，可免稅糧四頃，稱為“贍軍地”。
忽必烈時期的軍戶皆通過奧魯進行管理。奧魯，漢譯為“老小營”，指征戍軍人的家屬所在。忽必烈即位之初，沿襲以前製度，由奧魯官管理軍戶。
奧魯官的職責，一是從軍戶中征發丁男充軍應役，並及時起征亡故軍人的戶下子弟承替軍役，彌補軍隊缺員。
二是負責按時為本奧魯簽發的當役軍人置備鞍馬、器械、盤費等，以保障後勤供應。
三是贍養征戍地軍人老小，處理軍戶間的民事糾紛等。各路奧魯官府自成係統，不受地方路、府、州、縣管轄，僅受樞密院節製。後因奧魯官貪汙受賄，舍富取貧，剝削貧苦的軍戶，不利於中央集權。忽必烈遂逐漸改由地方路、府、州、縣長官兼領諸軍奧魯，管理軍戶。
但蒙古軍和色目軍奧魯還保持單獨係統。
四通八達設驛站
大蒙古國時期，烽火不息征戰頻繁，為傳達緊急軍事情報，開始設置驛站。
忽必烈統一全國後，為了“通達邊情，布宣號令”，把這一製度推行到全國各地，分布區域之廣、組織之嚴密、製度之完整，皆為前所未有。
忽必烈確立的驛站製度，以首都大都為中心，遍布全國各地，四通八達，東北可以通到黑龍江口的奴兒幹地區，北方通到葉尼塞河上遊吉利吉思部落，西南通到今西藏地區的烏思藏宣慰使司都元帥府轄境。
具體做法是在大約每隔五六十裏或百數十裏的驛路上設置一個驛站，每個驛站由若幹站戶管理，繁忙的驛站多至二三千戶，一般為百餘戶。驛站備有馬匹、車輛、船隻、床鋪以及各種飲食等。
忽必烈確立的驛站分陸站和水站兩種，陸站主要有馬站、牛站、車站、轎站、步站等，使用馬、牛、驢、車等交通工具，東北地區還有狗站，用狗拉雪橇奔馳在冰封雪蓋的大地上，往來運載使者及各種的貨物。
水站主要設置在南方沿海地區，以舟船為主要交通工具。
傳達緊急軍事情報等公事，使者要有圓牌作為乘驛憑證。圓牌也稱圓符，專為傳遞軍情等緊急事務而做，由朝廷鑄造和掌管。諸王公主附馬以及出征守邊將帥和地方官府，亦視其地位或需要頒給若幹麵圓牌，以備隨時差遣，但與朝廷頒發圓牌有所區別。朝廷所遣使者佩金字圓牌，諸王公主和地方官府所遣使者佩銀字圓牌。
起初，圓牌上鑄有海東青圖像，稱海青牌或海青符。
至元七年（1270年），忽必烈重新改換牌麵，不用海東青，改鑄忽必烈任用八思巴所創造的蒙古新字，漢意為“長生天氣力裏皇帝聖旨：違者治罪”。
如果遇有緊急軍事情報，使者包頭束腰，帶上圓牌，腰係小鈴，乘上快馬，用最快的速度奔向下一個驛站。
下一個驛站的站戶，聽到鈴聲，馬上穿戴整齊，紮好銅鈴，備好良馬，等到使者飛馳而來，立即接過文書和圓牌，打馬飛馳至下一站。