胡夜叉部下義軍首領邵隆、邵雲原本想要報仇，但在彥仙的勸說下歸服。
彥仙乘勝渡過黃河，在中條山建立營寨，蒲州、解州至太原的老百姓紛紛前來歸附，於是派邵隆、邵雲等率軍攻打陝州的芮城，河中府的虞鄉，絳州的絳縣、正平，解州的解縣、安邑，接連告捷。
彥仙部與金人在蒲州反複拉鋸，因金軍援軍到達而放棄繼續攻蒲州城，將所俘金將護送至行在。
宋高宗對輔臣說：“知李彥仙與金人戰，再三獲捷，朕喜而不寐。”
於是授李彥仙陝州知州兼安撫使，升武節郎、閣門宣讚舍人，並賜他袍帶、槍劍。
建炎二年四月，李彥仙主動節受鄜延經略使王庶的統領，向來與王庶有隙的曲端對此非常不滿，這也使李彥仙和曲端之間產生了矛盾，成為陝州孤立無援、最終陷落的原因之一。
李彥仙收複陝州時，潼關以東僅有此城還在宋朝手中。
李彥仙加緊修築城牆，深挖護城河，擴充軍備，大力屯田，並將全家從鞏州搬到陝州，表示要“以家殉國、與城俱存亡。”聽者無不動容。
建炎二年（1128年）冬，李彥仙在陝州城下與金將烏魯撒拔大戰七天，金兵死傷慘重，愴惶撤離。
建炎三年（1129年），婁室從絳州移屯蒲州、解州，發兵陝州，李彥仙通過諜報知道後在中條山設伏，痛擊來犯之金軍，俘獲金將十八人，婁室僥幸脫逃。
正月十二日，麾下將領邵隆收複虢州（今靈寶、盧氏），彥仙命其知虢州 。
彥仙任命另一位將領黨鬆知同州（今陝西大荔），但由於當時同州城還為金軍占領，因此黨鬆將治所設置於同州城三十裏以外的下寨（今大荔下寨鎮）。
李彥仙被朝廷授予右武大夫，寧州觀察使兼同、虢二州製置使（據《宋名臣言行錄》載為河、解、同、耀製置使）。
當時有河東土豪暗中投靠，期待與宋軍裏應外合。
李彥仙猜測此後金人必合兵來攻陝州，於是立即派人造訪川陝宣撫使張浚請求支援三千騎兵，並請張浚在金人攻陝州後，立刻渡河向北進攻絳州（今山西新絳）、晉州（今山西臨汾）、汾州（今山西汾陽）、並州（今山西太原）等地，搗其心腹，金人必撤軍自救，然後從嵐州（今山西嵐縣）、石州（今山西呂梁）向西渡河，取道鄜州、延州（今陝西延安）以歸 。
然而張浚回信勸李彥仙放棄陝州，空城清野，據險保聚，俟機而動。彥仙沒有聽從。
建炎三年（1129年）臘月，婁室果然與折可求合兵十萬，進犯陝州。
婁室將士兵分為十部，從元旦日起輪流進攻陝州。
李彥仙端坐樵樓之上，一邊飲酒，一邊令手下人役大作鼓樂。
夜裏，李彥仙派健卒縋出城牆，焚毀金兵攻城器械，金兵大驚，後退數裏紮營。
此時城中糧食已盡，隻能煮豆充饑，李彥仙令士兵食豆，而自己則飲其汁。
在豆子也耗盡後，李彥仙隻得再次向張浚求援，張浚一麵派人從僻道帶著金幣前來勞軍，一麵急令涇原路都統曲端出兵敵後的鄜州、坊州，但曲端素來嫉妒李彥仙軍功，謊稱無法出兵 。
彥仙幕下官員謝升勸張浚說：“金人很快會攻下陝州，之後便會完全占據黃河，並且覬覦四川了。”
於是張浚親自從長安率兵來援，但因道路被阻而不得進。
陝州部將邵隆、呂圓登、楊伯孫等都率兵前來救援州城，然而少有能最終入城的。
李彥仙每日與金人戰，將士未嚐解甲。
婁室敬重李彥仙才能，企圖派使者勸降，許以河南兵馬元帥之職，李彥仙斷然拒絕，並斬殺來使。
後來婁室又派人到城下，稱“隻要投降，立即授予之前許下的官秩”，李彥仙告訴使者：“吾寧為宋鬼，安用汝富貴為”，之後命令手下以強弩射死來人。
此後李彥仙命令在陝州城牆上設鉤索，每日鉤取金人，舂斮於城牆上。
因圍城已久，守城士兵傷亡人數不斷增加，而金兵的攻勢也越發猛烈。
建炎四年正月十四日，金兵破城而入，在激烈的巷戰中，李彥仙左臂被砍而未斷，全身中矢如同刺蝟。
陝州居民全無二心，即便是婦女也登上屋頂用瓦砸金人，並為他哭泣不已。
婁室惜才，命部下必須生擒李彥仙，得者可獲萬金。
李彥仙為免被敵人俘虜，換上便衣準備渡河逃脫，稱：“我不甘以身受敵人之刃。”
由於陝州軍民反抗激烈，婁室怒而屠城，李彥仙聽聞後不禁大為悲痛，說：“金人之所以屠城，全是因為我長期堅守不降之故，我有何麵目苟且偷生呢？”
然後投河而死，年僅三十六。
其全家也被金兵屠戮，隻有其弟李夔、其子李毅幸免於難。其裨將邵雲、呂圓登、宋炎、賈何、閻平、趙成等也都戰死於此役。
紹興二年（1132年），張浚承製贈彥仙彰武軍節度使，在商州建“忠烈祠”以為紀念，官其子，給宅一區，田五頃。
紹興九年，宣撫使周聿請求在陝州立“義烈祠”作為紀念。
後來因為商、陝被割讓給金國，其子李毅向朝廷奏言其父功績，於是宋孝宗乾道八年（1172年），朝廷在閬州再立“忠烈祠” ，並賜諡號“忠威”。