開弓沒有回頭箭，當李淵誅殺王威、高君雅之後，他便沒了後路，隻能造反了。而黃明遠也不擔心事情會有反複，便開始了對李淵的布置。
黃明遠在河東有許多舊部。
這是黃明遠迅速解決河東問題的底氣。這些人遍布河東各郡縣，文武皆有，很多人都已經在當地經營了十多年。
李淵雖然有世家大族相助，但自漢王楊諒之亂開始，河東被清理了多次，關隴世家在河東的實力早就十不存一了。
這也是之前李淵一直不敢動手的原因。關隴世家光喊口號，但你來點實際的啊。
黃明遠傳信河東諸將，命眾人各自堅守城池，等待主力東進。
河北主力七衛，左武衛在信都郡，右屯衛在恒山郡，龍驤衛在武陽郡，控鶴衛在東昌郡，虎威衛在上穀郡，鷹揚衛、豹韜衛在魏郡。七衛主要集中在太行山以東和黃河北岸。
此時西進的飛狐徑、井陘關、葦澤關、滏口盡控製河北軍的手中。
河東東南，長平郡和上黨郡，二郡太守分別是嚴孝武和段偃師。黃明遠傳令嚴孝武總領二郡兵馬，段偃師總攬二郡政務，防備晉陽之兵，又命黃明溥率領豹韜衛從滏口西進，進駐長平關。
而命張文遠率領右屯衛軍從恒山郡向西，進駐井陘關。
至於北麵馬邑郡，則更是簡單，黃明遠從沒有將沒有獲得突厥支持的劉武周放在眼裏。範文林、李子仁分屯恒安鎮、雁門關，南北挾製馬邑郡，再命劉雲芳率領虎威衛從上穀郡西進，先平定劉武周部，再南下太原郡。
三衛兵馬，再加上當地的軍隊，加起來有十多萬，從三麵包圍太原郡。若是李淵放棄太原，選擇南下，這還有一線生機。若是李淵死守太原，則晉陽就是他葬身之地。
其實黃明遠並不想在晉陽與李淵死戰，而是希望驅趕著李淵南下，趁機席卷河東，進入關中。
所以三路大軍，中路、南路二軍不動，北路先向馬邑郡率先發起了攻擊。
劉武周的造反很坑，至少在這個時代很坑。曆史上他的崛起是因為背靠突厥，獲得了突厥的支持，郡內還有原邊軍精銳，所以才能趁機興盛。
但黃明遠殺了始畢可汗，突厥現在陷入內亂，自顧不暇。而原朔州精銳邊軍，盡被黃明遠調到了安北都護府和恒安鎮，馬邑郡本身並沒有多少。雖然北地男丁悍勇，劉武周自領太守之後，也開倉放糧，招募了大批的壯丁，有著上萬人馬，但仍舊不能與隋軍相比。
劉武周知道馬邑窮困，若是困守馬邑，必然落敗，必須打出去，攻略富庶的太原諸郡。於是他率兵南下，準備進攻汾陽宮。汾陽宮物資充沛，占領這裏，才能有南下河東的可能。
樓煩郡都尉韓元建得知劉武周造反之後，便率部北上樓煩關，阻止對方南下。
樓煩等關在經過去年突厥人南下之後，都進行了修繕。劉武周本來打著突襲的主意，手中兵力不足，因此雙方相持，劉武周便難以前進。
差不到相持半個多月，屯駐雁門關的李子仁率部占領桑幹鎮，威脅善陽城。