（一）整治北平
徐達率部攻克元都後，在遣使赴京告捷的同時，又積極采取措施，加強以大都為中心的新占領區的軍事布防，設法鞏固和擴大北伐戰爭的成果。
洪武元年八月初三，即進駐北平城後的第二天，徐達就令右丞薛顯，參政傅友德等率精銳騎兵前往大都北邊的古北等隘口巡邏，阻止塞外元朝殘兵南下入侵，也謹防內地元殘兵北逃，泄露軍事機密。這些措施加強了對北平的管理力度，明顯穩定了北平的社會秩序，使人民的生活環境得到了很大的改善。
八月十五日，明太祖因元朝都城已被攻克，命令大將軍徐達、副將軍常遇春率軍攻取山西，同時詔命以禦史大夫湯和為偏將軍，與平章楊璟一道隨從大將軍徐達征討山西，又令徐達留兵三萬，設置燕山等六衛，以防守北平。徐達奉詔後，下令改樂安衛為燕山左衛、濟寧衛為燕山右衛、飛雄衛為大興左衛、淮安衛為大興右衛、清州衛為永清左衛、徐州五所為永清右衛，並遵照明太祖的吩咐，命都督副使孫興祖等率六衛將士駐守北平。同時，為了加強北平城防，徐達下令丈量元皇城，加固城牆，還特意將北平的“安貞門”改為“安定門”，“建德門”改稱“德勝門”，借此希望北平社會安定，人民幸福。
（二）平定山西
洪武元年八月二十日，徐達遵明太祖之命，派右丞薛顯、參政傅友德等率兵襲擊山西大同，騷擾敵軍後方。同時調兵遣將，分別由北平、河南兩路出兵，計劃從晉東、晉南同時進逼元朝大將、實權派人物擴廓帖木兒（漢名王保保）的巢穴 山西太原。原來自徐達率部進占河南後，山西太原就成了王保保的活動據點。王保保自元末義軍興起之時，就手握軍權，擁兵自重，並逐漸形成了半獨立的地方武裝勢力。雖然此前徐達在率部攻克元大都後，曾派遣使者去勸降過王保保，但由於王保保在元順帝北逃後，奉有收複北平之命，更重要的是當時的王保保還手握重兵，他本人也是身經百戰、威名遠揚的一代名將，所以他對徐達的招降不予理睬。
為了掃清進軍山西的障礙，確保後方無虞，徐達在當年九月派副將軍常遇春、參政傅友德等率兵離開北平，陸續攻占了保定、中山府（今河北定州市）、真定（今河北正定縣）等河北諸州縣及距太原僅二百餘裏的平定州（今山西平定縣），蕩平了由北平通往山西的元朝殘餘勢力。而在北路進軍線路得到疏通的同時，洪武元年八月二十六日，明太祖詔令右副將軍馮宗異率兵協助大將軍徐達進取山西，徐達因此如虎添翼，利用馮宗異及前不久奉明太祖之命出征山西的湯和、楊璟所率將士，由河南自南向北進攻，開辟進攻山西的第二戰場。南路軍一路北上，連續攻占了武陟（今河南武陟縣）、懷慶（今河南沁陽市）、澤州（今山西晉城市），並於同年十月奪取了距太原約四百裏的晉南重鎮潞州（今山西長治市），從而使得兩路大軍得以相互呼應，對山西形成了鉗形攻勢。
洪武元年十一月初三，徐達親率右丞薛顯等，統兵自北平進攻山西。十日，徐達統兵由保定進駐真定，與副將軍常遇春會師於柳亭。這時，徐達得知元將王保保已奉元順帝之命，率兵自太原出雁門關，準備取道保安州（今河北張家口市東南），經居庸關進攻北平。徐達認為駐守北平的都督副使孫興祖及燕山六衛將士足以抵禦進犯之敵，自己不但無需回援北平，而且可以乘虛搗毀王保保的巢穴，進占山西。於是，他對部下將領說：“王保保率師遠出，太原必虛。北平孫都督（指孫興祖）總六衛之師，足以鎮禦。我與爾等乘其不備，直抵太原，傾其巢穴，則彼進不得戰，退無所依，此兵法所謂‘批亢搗虛’也。若彼還軍救太原，則已為我牽製。進退失利，必成擒矣。”眾將認為徐達分析得很有道理，一致讚成他的計策，從而加快了進軍太原的步伐。