而張遼卻已不在河東郡，他北上進入了並州。
在五月，徐晃取河內，占據河內中西部，典韋、趙雲、張郃更是早已攻破白波壘，俘獲白波賊六萬，更兼家眷十餘萬，收編，屯田，縱橫數年的白波賊至此消亡。
白波攻下後，張遼令長史荀彧與河東郡丞王邑撫慰河東郡汾水以北六縣，推行政令，張郃領兵繼續鎮守河東。
而後以崔鈞為西河太守，命典韋令兩萬兵馬進入西河郡，迅掌控諸縣。
並州有九郡，上黨郡、太原郡、西河郡、上郡、雲中郡、朔方郡、雁門郡、定襄郡、九原郡，太原郡位於盆地之中，而西河郡則在太原郡以西，位於呂梁山之上，以山巒丘陵居多，境內異族橫行，賊寇肆虐。
典韋曾帶猛虎營偽作鬼麵軍多次在山中剿匪，最是擅長山地作戰，張遼命其對境內肆虐流竄的白波餘部、匪寇、羌胡、匈奴毫不留情的剿殺，以迅掌控西河郡，穩固太原郡西部防線。
而張遼則帶著中郎將趙雲、別駕張既、主簿田儀、軍師郭嘉一行沿著汾河穀地向北，進入太原郡。
太原郡治晉陽，領十五縣，晉陽、榆次、陽邑、祁縣、中都、鄔縣、界休、平陶、大陵、茲氏、狼孟、盂縣、陽曲、慮虒、京陵，其中除了汾河，更有晉陽湖，土地肥沃，良田無數。
但比之河東郡與關中，太原郡卻更加荒涼，這裏的土地不差，但戰亂更多，前漢之時，匈奴就連年入侵這片土地，到了後漢光武帝時，匈奴分裂，十數萬匈奴內附，這就是南匈奴。南匈奴內附後，全部安置在並州，而太原郡自然也不少。
曆經一百五十年，南匈奴人口已經接近三十萬，加上後來內附的部分北匈奴雜胡，並州的匈奴人數目過四五十萬，而整個並州九郡的漢人也不過七十萬，何況還有烏桓和後來近十數年興起的鮮卑。
這一片土地飽受戰亂，南匈奴雖然內附，但卻時常叛亂，而且匈奴分裂後，鮮卑趁勢而起，桓帝時檀石槐統一鮮卑各部，連年侵擾並州與幽州，十五年的一場大戰更是改變了並州的格局。
當時靈帝兵攻打日益強大的鮮卑，蔡邕還曾反對，認為時機不到，但靈帝卻命破鮮卑中郎將田晏從雲中出擊、護烏桓校尉夏育從高柳出擊、使匈奴中郎將臧旻從雁門出擊，三路大軍討伐鮮卑，漢軍出塞二千餘裏，卻被檀石槐打敗，僅餘數百騎而還。
自此之後，並州大半郡縣失去了掌控，鮮卑等異族更是肆無忌憚，反複劫掠，乃至四年前，匈奴休屠各部叛亂，攻殺並州刺史張懿，丁原才做了並州刺史，也正是那年，張遼被丁原召為從事，派到雒陽進入西園。
同樣也是那年，張遼的父親死於戰亂之中。
董卓掌控朝臣後，在東，政令難出關東，在北同樣如此，被白波阻隔，對並州完全失去了掌控。
因而這兩年，並州郡的戰亂更加頻繁，郡縣官吏也死了無數，田地一片荒蕪。
李傕與郭汜表奏張遼為並州牧，便是完全不在意這一塊地方了。
好在半年前，張遼命高順帶領大軍進入太原郡後，曾數次打擊異族入侵，更跨過長城，兵進雁門，令兩郡稍微安定，但也隻是太原與一半的雁門，並州北部還有五原、定襄、朔方、雲中仍是完全在異族的掌控之中。
張遼擔任並州牧，可謂任重而道遠，但同樣，這也是他一直以來追求的目標，平異族，定邊境，保漢民，護安定，何況並州還是他的家鄉。