崇禎四年(1631年)九月，陝西三邊總督楊鶴因其招撫主張破產被解職，接替他的是陝西巡撫洪承疇。洪承疇是朝中主剿派的代表人物之一，就任後立即加快對農民軍的攻勢，命甘肅總兵楊嘉謨、固原總兵楊麒、臨洮總兵曹文詔、延綏總兵王承恩、寧夏總兵賀虎臣和定邊營副將張應昌，各率兵大舉進剿。
陝西各地的義軍相繼遭到鎮壓。但是，山西境內的義軍四處出擊，鬧得風風火火。七月，闖將、八大王、老回回、紫金梁、翻山鷂高傑等掠蒲州(今山西蒲縣)，攻城三晝夜，不克。遂分兵精銳300人攻打大寧，三更城陷。接著，奪取隰州(今山西隰縣)，射殺知州楊瑋。八月，山東道禦史劉令譽在一份奏疏中曾說:“有自賊中逃回者言，舊在晉中賊首掌盤子等十六家，最梟獍者為闖將、紫金梁，戴金穿紅，群賊效之，遂皆以紅衣為號。”這位闖將就是李自成，說明此時李自成已是山西16家義軍中與紫金梁齊名、戰鬥力最強的代表人物。身著紅衣是他們的標誌。
明政府為了加大圍剿農民軍的力度，以玩寇縱賊為罪名追究山西巡撫宋統的責任，免去他的巡撫職務，任命許臣接替。許臣重新組合兵力，以重兵屯駐澤州，以陝西、河南、山西三省之兵合力圍攻，秦兵向東追剿，豫兵向西截殺，晉兵從中邀擊。自以為這是萬全之策，可使農民軍全軍覆沒。這時李自成也在試探攻擊目標，力求避實擊虛，找出薄弱環節，十二月，從沁水長驅而入，直抵武鄉，攻打遼州(今山西遼縣)。明將尤世祿憑著多年作戰經驗，用他自己的話講，即“聞警熟思”，立即將部隊掉轉方向，向遼州反撲過來，雙方激戰兩晝夜，農民軍據城固守，尤世祿和他的兒子副將尤人龍都被射傷。尤世祿在塘報中說:“職所尾隨之賊係紫金梁等，而闖將等係西河之賊，不知何故放鬆，令其蹂躪東向。唯恐有破巢覆卵之患，於是不暇顧所尾之賊，急擬走遼州應援，以全疆土。”二十四日，李自成一舉拿下遼州，打得尤世祿暈頭轉向，有力地支援了紫金梁北上攻圍陽城的軍事行動。鑒於這一任務的順利完成，除夕這天，李自成出其不意地離開遼州。就在這天深夜三更時分，尤世祿率領軍隊進入遼州，橫施淫威，大肆屠殺，砍下城內百姓的頭顱冒功向朝廷請賞。如此作為，豈能不激起民眾的憤恨!
然而，遼州戰役的勝利，未能扭轉山西戰局。三省重兵像餓狼一樣窺視著起義軍。崇禎六年(1633年)正月，在山西各地的義軍被迫向畿南豫北轉移。李自成率先由遼州出發，越過太行山進入畿南，到達順德西山，遭到明大名道盧象升的阻截，遂向南穿過摩天嶺險道，到達山嶺起伏的武安(今屬河北)。與明將左良玉部相遇，戰而勝之，一下子殲敵7000人，打出了威風，聲威大震。明政府害怕農民軍在太行山立營紮寨，招兵買馬，擴大實力，便追究地方官的責任，免去河南巡撫樊尚
，代之以玄默。又下令調總兵鄧
將川兵2000人，以石砫土司馬鳳儀為副，一同馳援河南。玄默就任後立即進駐彰德(今河南安陽)，親率鄧
、左良玉、曹文詔、湯九州部在懷慶(今河南沁陽)、衛輝、彰德三府進行堵截。
五月十日，紫金梁在武安縣南五十裏之尖山與明川將鄧
、左良玉夜戰，身受重傷，臂重四箭，喉中一箭，不久死於濟源之善陽山。他的部下2萬餘人盡歸於李自成。而李自成原有的部眾稱之為老府。
在明軍的圍追堵截下，李自成等部在懷慶作戰連續失利，退居太行山中。八月中旬，再戰於林縣(今河南林州市)水冶，高迎祥誤中埋伏，在突圍中身受箭傷，差點成了俘虜。九月，明總兵倪寵、王樸率京營6000人，由太監楊進潮、盧九德監軍趕到參戰，在玄默的指揮下，兵分三路進行合圍。此時李自成的名聲已同高迎祥並駕齊驅，成為農民軍的主力之一。