劉宗敏因為要親自指揮攻太原，不使晉王逃走，所以在李自成到平陽後的第三天，就動身到太原去了。李自成在平陽停留了五天之後，分派了各地方府、州、縣官，經洪洞、趙城、霍州、靈石、汾州，於二月初六日上午到達太原城外。這時大順軍已經在前一天將太原包圍了。
在大順軍來到之前，山西巡撫蔡茂德已經因為不守黃河回到省城，使晉西和晉南各州縣不戰失陷，受到山西巡按禦使汪宗友的嚴厲彈劾。崇禎皇帝下旨切責，將他撤職，等候問罪；同時命一位叫做郭景昌的官僚，前來接任。正月二十三日，即李自成到達平陽的這一天，蔡茂德在太原召集文武大員，還有陽曲知縣和地方官吏以及士民中較有頭臉的人物，共約二百多人，到巡撫衙門後堂，麵對太祖朱洪武，以及明室列祖列宗的牌位發誓，決心死保太原。因為形勢十分危急，蔡茂德慷慨陳詞，不覺痛哭，眾人跟著也哭。會議尚未開完，忽然聖旨到，宣布將他撤職，聽候勘問。
蔡茂德的親信幕僚們都知道太原必不可守，同時對朝廷的處置也心中不滿，所以勸蔡茂德趁此機會撒手不管，趕快躲出城外，等候新巡撫前來接任。蔡茂德堅決拒絕，說道：“我已經決定以一死上報君恩，即令郭景昌來到，接了巡撫大印，我也陪著他死在城中。” 。
劉宗敏二月初五日到達太原城外，初六日上午立馬高處，指揮攻城。防守南關的二千陽和兵，幾乎沒有抵抗，就豎起白旗投降了。大順軍沒有繼續攻城，等待城中守軍投降，以期不戰而克太原。到了初七日，天氣很陰暗，守城的人心已經瓦解，眼看就會有變，蔡茂德趕快寫好遺表，隨即調守新南門的將領張雄防守南門。張雄離開新南門時，悄悄地對他的一個心腹小將說道：“這東南城角的角樓裏邊藏的是火藥、火器。如今大勢已經完了，我一下城，你們就放火燒著這個角樓。大家投降了李王，找一條活路吧。” 。
黃昏時候，大風起來，飛沙走石，有的大樹都被刮斷了；張雄帶著少數親信，在昏暗的黑夜中縋下城去，向大順軍投降了。少頃，東南角樓起火，守城的人們在大火中各自逃散，守南門的兵士開了南門出降。大順軍一部分靠雲梯順利地登城，一部分從打開的南門和新南門湧進城內，其他的門也都被打開了。大順軍沒有經過戰鬥，順利地破了太原。
天亮以後，劉宗敏率領一大群文武官員和五百騎兵進城，將布政使衙門作為自己的行轅。這時大街上和十字路口都張貼了以他的名義發布的檄文和大順國王的兩次詔書。這三通極其重要的文告，兩天來已經從太原的南邊和東邊射入城內，但是由於守城官紳們的禁止而被隨時焚毀，城市土民們無法讀到原件，隻是私下裏紛紛傳說。如今士民們知道，大順軍破城後確實紀律很好，堪稱古人所說的“王者之師”，又聽見巡邏兵丁的沿街傳諭，大家的心更安了。起初人們隔著門縫悄悄地向外窺探，隨後有平民小戶之家或膽於較大的人，開了半扇門，探出頭來。隨後有人走出，大膽張望，向鄰居們互相詢問。再後有地方保甲敲鑼傳呼，說：“大順皇上將在今天上午巳時整從大南門進城，百姓們要把街道打掃幹淨，準備香案，迎接聖駕，不可有誤。”也有地方要人親自對那些居住在深宅大院的人家敲門傳呼，惟恐這些士紳之家不曉得情況，誤了接駕的大事，惹出禍端。於是太原城中恢複了活力，突然間出現了改朝換代的景象。平民振奮，暗覺舒暢；達官貴人們且憂且懼，在等待著命運的安排。