在治邢的同時，他又抓了保證軍用糧秣供給的事。
窩闊台時，為了能從中原地區獲取更多糧秣以保證軍需，在新衛（疑即衛縣，今河南汲縣）設軍儲所，征收山東河北的糧秣。到蒙哥時，此項製度逐漸改變成由納糧各地人戶，按糧價折款，向軍儲所交銀帛。這不僅影響軍需的供應，而且也為管理此事的官員貪贓枉法提供了方便條件。忽必烈對此進行整頓，在黃河沿岸漕運方便之處，構築五處糧倉，收購各地糧食。此舉不僅滿足了軍需，博得蒙哥的歡心，而且整頓了吏治，方便了百姓。
在這段時期，忽必烈還整頓了河南地區。滅金後，蒙古在原金都汴京（今河南開封）設河南道總管府，以監河橋萬戶劉福為河南道總管，此人控製河南20餘年，專橫跋扈，貪鄙殘酷，使河南地區民不聊生。忽必烈遂以“領治蒙古、漢地民戶”的身份，在汴梁設立河南經略司，以忙哥、史天澤、楊惟中、趙璧為使，又令陳紀、楊果為參議，並在唐（治所在今河南唐河縣）、鄧（今河南鄧州市）開設屯田，官給牛種，在鄧州設屯田萬戶。南宋北犯，就守邊禦敵，平時屯種牧養，既解決了流民問題，又增添了守邊的兵丁，同時亦可提供一定數量的糧秣，一舉三得。而這一舉措最重要的意義則在於，在中原要地安置了自己的親信，使忽必烈的勢力立足於中原，形成不敗之勢。任河南經略司使中的趙璧，是忽必烈未執政時“聞其名召見”的儒士，曾受到“呼秀才而不名”的待遇，長期追隨忽必烈，是其得力助手。楊惟中等人，也都是頗有政績的幾代老臣。忽必烈任命這些人來為他經營中原，是十分英明之舉。
蒙哥三年（1253年），即忽必烈領命出征大理之前，蒙哥按舊製給宗室親王人等分封土地人民，曾以南京此處指以原金都汴梁為中心的中原地區。和關中兩地區命忽必烈任擇一處，作為他的封地，忽必烈最後選擇關中為自己的封地。此決策出之漢族謀士王府尚書姚樞，他認為：“南京河徙無常，土薄水淺，鹵生之，不若關中厥田上上，古名天府陸海”（《元史》卷158《姚樞傳》。）關中地區，向來是曆史上王霸必爭之地，是創業的戰略要地，忽必烈選擇此地為自己的封地，實際上正暗含了他遠大的抱負。領關中後，他立即將自己的親兵眾將，分別屯戍於興元（今陝西漢中一帶）一線，以防止南宋兵力北上。相繼任命孛蘭、楊惟中、廉希憲為京兆（關西道）宣撫司使，以姚樞為勸農使，以許衡為京兆提學使（《元史》卷158《許衡傳》。）屯田於鳳翔，“募民受鹽入粟，轉漕嘉陵”，“又立交鈔提舉司，印鈔以佐經用，”“關隴大治。”（《元史》卷4《世祖本紀》。）關中地區的治理，給忽必烈提供了極其寶貴的經驗，使他進一步認識到收攬漢族人才的重要。
三、征伐大理
忽必烈在蒙哥汗在位前三年中所做的第二方麵的大事，就是征伐大理。這方麵的成就，同樣顯示了他的雄才大略，同時在軍事方麵培植了自己的勢力，為他以後的發展提供了堅實的基礎。
蒙哥二年（1252年）秋，蒙哥汗任命旭烈兀“征西域素丹諸國”，同時命忽必烈“征大理”（《元史》卷3《憲宗本紀》。按《史集》所載，征大理是忽必烈自己的要求。見該書下冊第265、289頁）
征大理，在當時對蒙古滅宋，有重大的戰略意義。
大理是當時以雲南大理為中心建立的以白族為主的地方民族政權。在這個政權之前，這裏曾以烏蠻為主建立的南昭政權，幾乎與唐朝相始終。到五代初，由白族人段思平建立了大理政權。這兩個政權，名義上雖然都曾經是唐、宋各中央王朝的臣屬，但實際上對中央王朝叛服無常，中央王朝對其也隻是羈縻而已。因此，自南昭以來，雲南大部分地區，實際擺脫了中原王朝的控製達五百多年之久。忽必烈征大理之前，統治大理的是白族首領段興智，其所控製的地區以今雲南為主，其勢力曾達到今貴州、廣西西部，四川南部，以及緬甸、泰國、老撾的一些地區。蒙哥命令忽必烈進兵大理，其主要目的仍然在於滅宋。因為當時宋朝政府退據江南，在東部沿江（中下遊）一帶，有重兵把守，防禦力量較強，而且沿江漢族老百姓，對蒙古大軍自然產生一種對抗情緒，使蒙古軍向南宋的進攻，多次失利。而蒙古軍當時早已控製中國西北廣大地區，兵力達到金朝臨洮路、鳳翔路（今甘肅東南），接近今川北，再加上當時蒙古已基本控製吐蕃，川西一帶藏族也早與蒙古有密切聯係，而川滇一帶民族眾多，大理段氏政權十分虛弱，蒙古進軍川滇，除地形險要複雜難於行走外，不會遇到十分強大的抵抗。大理政權以東即為南宋疆域，而南宋西部民族眾多，蒙古正可利用他們使南宋腹背受敵。利用西南少數民族的力量，攻取中原漢地，是當時蒙古上層的一種共識，也是進攻南宋的最佳選擇。早在成吉思汗攻取金朝時，郭寶玉就曾獻計說：“中原勢力，不可忽也。西南諸蕃，勇悍可用，宜先取之，借以圖金，必得誌焉。”（《元史》卷149《郭寶玉傳》。）蒙哥攻取大理，正是這個意圖。此外南宋為了對付蒙古騎兵，也須有精良的騎兵，馬匹就成為其重要的戰略資源。南宋戰馬長期依賴於西南少數民族供應，大理是供應南宋戰馬的主要地區。南宋在西邊黎州（今四川漢原），南邊邕州（今廣西南寧市南鬱江南岸）設市，置“買馬司”，招徠大理等地少數民族市馬，每年可收購戰馬萬匹以上。同時南宋與大理和西南少數民族的貿易聯係，已成為南宋對外經貿活動的一條重要通道。由此可知，蒙古軍攻取大理，不僅是一條進攻南宋時可能遇到抵抗最小的路線，而且可以切斷南宋戰馬的來源，切斷南宋戰略資源的供應，打擊南宋經濟。因此，蒙哥一上台，立即命忽必烈率軍進攻大理，以便從側腹部進攻南宋。
1252年，忽必烈受命征討大理。此次出征所統軍隊數量，史無記載，但其規模十分巨大。佐忽必烈領兵的是著名將領速不台之子兀良哈台，他長期隨從拔都在西方征戰，屢建戰功，蒙哥挑選他佐助忽必烈，可見蒙哥對此役之重視。隨從忽必烈出征的，還有許多為忽必烈重用的漢族知識分子，如竇默、姚樞、劉秉忠、張文謙、董文用、董文忠等人。此外還有許多色目人，如維吾爾人葉仙鼐、阿速人月魯達某等。
出征大理，這是史書中第一次出現的有關忽必烈攻城略地的記載，很可能也就是他第一次獨立指揮的大規模軍事行動，因此，他對這項使命十分重視。
這次出征大理的軍事路線，主要是以今甘寧地區為基地，南下四川和吐蕃交界地區，進入大理。
以今甘肅（包括寧夏）作為這次軍事行動的基地，是當時的最好選擇。從13世紀初，成吉思汗第一次征西夏（1205年），蒙古軍隊就曾進入今甘肅山丹縣以北龍首山一帶，駐軍半年有餘。此後，蒙古軍隊又曾兩次伐夏。1226年，成吉思汗趁攻滅西遼和花剌子模的餘威，回軍途中南下侵入西夏，攻取西夏所屬河西諸城，並進入今青海、臨洮、臨夏、靜寧等地，1227年，西夏終於為成吉思汗所滅，今甘肅中西部，包括今寧夏，完全落入蒙古人之手。窩闊台時，將原西夏（即唐兀之地）等地分給闊端為封地。
1234年金亡，但金鎮遠軍節度使、鞏昌便宜總帥汪世顯，仍固守甘肅東部。汪世顯本是汪古部人，金時，其部人多被派至甘肅隴西一帶駐守，汪世顯屢建戰功，被委任為一方主帥。1235年窩闊台命闊端、穆直等進攻秦（治所在今甘肅天水）、鞏（治所在今甘肅隴西縣）諸地，闊端兵至鞏昌城下，汪世顯率眾出降，秦、鞏等地皆歸降蒙古。穆直率蒙古軍繼續南下，攻取了階（今甘肅武都縣東南）、岷（今甘肅岷縣）、疊（今甘肅迭部縣）、宕（今甘肅宕昌縣）諸地，當地吐蕃十八族歸降。蒙古軍還進入龍州（今四川平武縣）。至此，整個甘肅均為蒙古所統治，闊端承製授汪世顯為便宜總帥，秦、鞏二十餘州事，“皆聽裁決”（《元史》卷155《汪世顯傳》）……汪家軍多次奉命出征，戰功卓著，成為蒙古汗國在甘肅地區的重要支柱。忽必烈征大理時，汪世顯已去世，其子汪田哥（又稱汪德臣）繼為鞏昌二十四路便宜都總帥，這裏地廣兵強，是蒙古軍南下征大理最好的軍事基地。
至於進軍大理必經之四川，情況雖然比較複雜，但總的情況，也有利於進軍大理。
四川由於其獨特的地理位置，在金朝滅亡之前，一直在南宋的統治之下，北部有所謂三關五洲的阻擋。三關即興元府（今陝西漢中）所管的武林關（今留壩南）、沔州（今略陽）所管的仙人關（今甘肅徽縣東南）和七方關（今康縣東北）。五洲是階州（今武都）、成州（今成縣）、西和州（今西和）、鳳州（今陝西鳳縣東）和天水軍（今甘肅天水西南）。（參見陳世鬆《蒙古入蜀初探》，載《元史論叢》第二輯。）但自1234年金朝滅亡，汪世顯以秦、鞏20餘州歸降闊端後，四川盆地北部屏障盡失，完全顯露在蒙古強大兵力下。1236年，闊端與按竺邇相會於龍州，合兵南下，曾進入成都。不久，蒙古軍主動北撤。1238年、1241年蒙古軍都曾深入四川，漢州（今四川廣漢）、遂寧（今四川遂寧縣）、敘州（今宜賓市）、瀘州（今瀘州市）、資州（今資陽縣）等城均曾落入蒙古軍之手。在餘等人極力抵抗下，收回一部分地區，但川西、川北許多地區，實際上處於蒙、宋勢力拉鋸的狀況。而且由於這裏與吐蕃地區相接，對南宋來說，又是邊遠之地，為了減少與吐蕃之間的衝突與矛盾，南宋也把川西、川北許多地方看做是“甌脫”之地，兵力很弱。所有這些，為蒙古軍經四川進入大理，提供了方便，若大理平定了，四川也就實際上成為蒙古控製的地區。
至於吐蕃地區，由於早在窩闊台時期，經營甘川一帶的闊端就曾於1239年派兵入藏，又於1244年召請薩迦班智達貢噶堅讚來到涼州，他代表西藏各地方、各教派，正式歸服於蒙古政權，從此，吐蕃各地多臣屬於蒙古。蒙哥即位之初，即“以和裏統吐蕃等處蒙古、漢軍，皆仍前征進”（《元史》卷3《憲宗本紀》）……這些情況也都表明，蒙古在吐蕃許多地方，都有較大影響，與之有較密切的關係。
此外，當時吐蕃地區，特別是今四川阿壩、甘孜一帶，地方勢力、宗教集團各自為政，相互之間矛盾尖銳，無力量、也不可能聯合起來抗拒蒙古大軍。因此，四川西部從各方麵來說，都是蒙古進軍大理最理想、阻力最小的一條進軍路線。
忽必烈對出征大理，十分重視。他於七月受命出征（《元史》卷3《憲宗本紀》為七月，《世祖本紀》為六月）。立即率部行動，於八月即抵達臨洮（今甘肅臨洮）籌備和布置南征諸事。他首先命鞏昌等二十四路便宜都總帥汪田哥，率部進入利州（今四川廣元縣），修繕城池，屯兵興農，作為重要的兵站。又由汪田哥之兄汪忠臣籌措糧餉，督管嘉陵漕運，“忠臣造舟為梁，修棧道，水陸兼行，饋運不絕”（《蒙兀兒史記》，第456頁，中國書店1984年版）……
忽必烈對大理的出兵，經過了近一年的準備始得成行，這一方麵說明此事較難，因為蒙古此時尚未完全控製四川，所以需要充分的準備。此外，蒙哥1252年冬狩獵時墮馬受傷，不能視朝，需要留忽必烈於和林附近，以防不測，所以推遲了征大理的時間。
1253年秋，蒙哥身體康複後，忽必烈經過充分準備，即出兵進攻大理。
雲南地區自後晉天福二年（937年）段思平擊滅楊氏的“大義寧”政權，建立大理政權後，曆經三百年，到忽必烈進軍之前，已有幾代大理國王位形同虛設，權臣“高氏世為相國執政，賞罰、政令皆出其門，國人稱為帝國主”（楊慎撰：《南詔野史·段寶傳》）……在這種情況下，大理國統治階級之間，矛盾重重，國力受到很大削弱，忽必烈在這時期出兵大理，應該說是正逢其時。
1253年7月，忽必烈首先在六盤山區聚集兵馬，六盤山一帶，曾是蒙古進入西北地區的重要據點，成吉思汗時，曾為其避暑之地，也是征西夏、進兵甘青的重要軍事據點。貴由汗時，蒙哥曾以此地作為進攻四川的軍事據點。然後西南下至臨洮府，大軍於九月進至甘川交界的忒剌（《元朝史》上冊，第184頁）認為在今四川鬆潘；《蒙兀兒史記》認為：“疑即禿剌蠻之地，在敘州西。”（見該書第6卷）敘州治所在今四川宜賓，其西即四川甘孜與涼山之間，似太靠南。忒剌為蒙古軍由甘肅進入四川之交通要地，當在甘川之間，以鬆潘為忒剌，就地理位置來說，雖相差不遠，但此推測缺乏根據。今甘肅迭部白龍江支流有達拉溝水，南入四川若爾蓋，達拉溝水西有打拉地區，若爾蓋有達劄寺。打拉、打紮與忒剌音極相近，疑達拉溝至若爾蓋即為忒剌地區，忽必烈駐軍之忒剌，即今之若爾蓋。在這裏調整兵力，分兵三路南下。忽必烈命大將兀良哈台率右手軍，由西道進軍；抄合、也隻裏率左手軍，由東道進軍；忽必烈親率中軍由中國，三路大軍並進。
忽必烈所統中路軍，進軍神速，十月越過大渡河，又在山地行軍二千餘裏，抵金沙江。這一帶的摩些蠻（今納西族先民）、白蠻（今白族先民之一）等相繼歸降，十二月進抵大理國都太和城下（今大理南大和村），用時僅三個多月。忽必烈派玉律術、玉君侯、王鏗等入城勸降，為大理王所殺。此時兀良哈台所率右手軍（左路）亦經激戰，越金沙江，與忽必烈大軍會於太和城下。兩軍會合，攻陷太和城，大理國王段興智與權臣高祥、高和等棄城逃遁。因大理殺玉律術等蒙古使人，諸將多要求屠大理城內百姓，為蒙古使人報仇。張文謙力呈屠城之非，為忽必烈所接受，大理城遂免遭屠戮之災。忽必烈命大將也古拔都兒率兵，窮追大理國王等人，在姚府《元史》等均作姚州。按，姚州為唐所置，至大理段氏，立為統矢府，又稱姚府，為大理國八大府之一。元初設統矢千戶，後國統矢，設姚州。此時應作姚府，在今雲南姚安縣境。擒獲高祥，其國王段興智繼續逃逸。忽必烈遂命兀良哈台總督軍事，繼續征討雲南其他各地，他自己由龍尾關“郭鬆年《大理行記》曰：‘龍尾關，即蒙氏所築。西扼蒼山，東屬洱水，其高壁危構，巍然猶存。’今下關城垣臨洱海，依天然形勢，即用羅鳳築城故址也。南詔以來，龍尾城為大理重地”（見方國瑜著《中國西南曆史地理考釋》上冊，中華書局1987年版，第440頁）。班師回朝。兀良哈台率軍直赴大理別都善闡明（今雲南昆明），攻克烏蠻重鎮押赤城押赤城即善闡明，善闡蒙古語音即押赤，在滇池旁。在昆澤（今雲南宜良）擒獲大理國王段興智，至乾德哥城（今雲南澄江），兀良哈台病，委軍事於其子阿術。在阿術率領下，蒙古軍相繼攻下乾德哥城，“凡二年（1253年8月—1254年秋），平大理五城八府四郡，泊烏、白等蠻三十七部，兵威所加，無不款附”（《元史》卷121《速不台傳》）……忽必烈受命征大理之役，勝利完成。忽必烈雖早於1254年春班師，但其部下效命疆場，完成統一雲南大業，也與他能放手使用部下，調度有方分不開。