陳玉成、李秀成率部趁月夜到達南岸，突然向高資敵人發起攻擊，一下打破清軍營壘七座。吉爾杭阿帶兵從九華山來救，也擋不住其迅猛攻勢，所帶兵勇非死即傷，剩下的不聽指揮一哄而散。吉爾杭阿隻帶少數人逃到高資山中，望著漫山遍野的太平軍，他萬念俱灰隻求速死。
逃離太平軍追擊時，一行十幾個人還騎著馬，可是進入高資山中後，就是彎彎曲曲，高低不平的山路，十幾個人隻得下馬步行，一路的羊腸小道，把吉爾杭阿累得是氣喘籲籲。幾個隨從把他攙扶到山窪窪裏休息，吉爾杭阿的心情壞到極點，一心隻想死，他坐在一塊石頭上，喘著粗氣語句不連貫道：“難為你們幾個了，我自己在這裏安靜一會。我口渴了，勞你們去給我找碗水喝。”
幾個隨從就那麼老老實實地去給巡撫大人找水去了，這裏出現了少有的寧靜。吉爾杭阿見四周無人，正是自殺的好機會，於是他掏出洋短槍對準自己的腦袋開了一槍。“砰”的一聲槍響，吉爾杭阿頭部打開了一個大窟窿，鮮血飛濺，倒在石頭邊死去。
四周為吉爾杭阿站崗放哨的、為他去找水的隨從們，猛然聽到槍響頓時覺得不妙，急忙圍了上來，可是巡撫大人已經徹底斷氣了，一個真心想死的人誰也救不活。
吉爾杭阿自殺了，兵荒馬亂的，剩下的隨從們自己的性命都難保，不可能為他舉行什麼追悼儀式。即使他的官再大，死的不是時候，不是地方。在這個荒山野嶺中，驚魂未定的隨從們就便挖了一個坑，將吉爾杭阿和衣而葬了。
真是亂世人不如太平犬，堂堂的江蘇巡撫下葬得還不如一個普通老百姓，連一口棺材都沒有睡到，就像倒斃路邊的乞丐一樣，被隨從們草草埋葬了。
在太平天國時期好多人都說，八旗子弟已經腐朽糜爛了，隻知吃喝玩樂，嫖賭逍遙，幹不了一點正經事。其實這隻是一種普遍現象，並非絕對。由於環境所迫八旗子弟中，也出現了一些吃苦耐勞，不怕傷亡的將領，以致最後死在戰場上，比如湖南提督塔齊布、江寧將軍蘇布通阿、江蘇巡撫吉爾杭阿，都是在艱苦的戰爭環境中，非正常的、十分痛苦的死去。
吉爾杭阿自殺在高資山中，張國梁帶兵仍然還在江北，天京至鎮江一帶清軍空虛，且沒有主帥。鹹豐帝聽到吉爾杭阿自殺的消息，任命江蘇按察使趙德轍為署江蘇巡撫，改任餘萬清為雲南鶴麗鎮總兵，仍然留在江蘇境內帶兵打仗。
餘萬清五年前就是湖南提督，因為讓太平軍衝出廣西，打入湖南，所以定了個監斬候刑，還坐過幾天大牢。由於去年初他帶兵在蘇、常一帶苦戰，打敗了胡以晃增援上海劉麗川的部隊，保住了常州、蘇州的安全，因功而撤銷監斬候刑。
關於餘萬清赦免監斬候刑的經曆，還要倒敘一段故事。一八五四年十一月十六日，胡以晃指揮丞相楊正潮、尚書李春發，帶兵兩千多人從觀音門、棲霞嶺出發，目的在於增援上海小刀會起義。可是就是這麼一支兩千人的部隊，想要通過清軍的道道防線談何容易？路過鎮江城時，與城內吳如孝取得聯係，因為這時候吉爾杭阿正帶兵攻打小刀會，鎮江還沒有被包圍。