及日軍侵台，楊泗洪決心守土不去，現在又奉命節製黑旗前敵諸軍，楊泗洪對劉永福的知遇和信任感泣不已，對推薦自己的吳桐林說：“我當以身報大將軍知遇之恩，庶不負先生牙齒力（推薦之功）也。”
9月初，楊泗洪率黑旗軍和義軍拔營北上。
3日，黑旗軍進至嘉義北打貓莊，打探到日軍占據大莆林街內。下午1時半，楊泗洪下令將大莆林圍住。
駐守大莆林的日軍近衛騎兵大隊和近衛步兵第一聯隊第二大隊，突然“遇警”，急忙商討對策，敏感地意識到當務之急是“須確保後方的交通”，黑旗軍若襲擊他裏霧，則此處“與後方的聯係必定完全斷絕”。
步兵第八中隊立刻突圍奔向他裏霧，以回護後方，但途中即遭到黑旗軍的堵截。日軍傷亡多人之後，隻好伏在水田裏，待日落後逃出，連夜奔向他裏霧。路上遇到三名他裏霧奔來的通信騎兵，才知道猜中了：楊泗洪正是釆取聲東擊西之計，佯攻大莆林，而派黃榮邦乘虛襲擊他裏霧，包圍了日本通信騎兵隊。日本騎兵“知寡不敵眾，便鎖住神廟大門堅守”，[ 《日清戰爭實記》]被黃榮邦親自用大斧劈開大門，義軍衝入猛烈擊殺敵人，僅有三人活命逃出。第八中隊得知他裏霧被占，慌忙乘夜又返回大莆林。
4日，沒了吃的，第八中隊又出動到各村搶糧，搶完後即殺人燒莊。然後，繞過他裏霧，與莿桐港的第六中隊會合。會合後互相壯壯膽，再組織運輸隊，由莿桐港往回運送，不料還是在他裏霧附近遭到黑旗軍和義軍的襲擊，除二人逃回外，悉數被殲。[ 《日清戰爭實記》]
至5日夜，在大莆林的日軍已被圍困整整三晝夜，與後方的聯係已斷，半點接濟全無，隻好決定北撤。
6日晨，日軍剛作好撤退的準備，黑旗軍和義軍即對大莆林發起了總攻。
據日方記載：黑旗軍“從嘉義城運來山炮(兩門)，以炮擊激勵士氣，彈著亦甚良好。”
激戰兩個小時，日本士兵攜帶的子彈幾乎都已打光（據統計，當天日兵發射的子彈平均約為每人三百六十發），慌亂向北突圍。
楊泗洪率軍追擊，欲生擒殿後的日本軍官，腳部中彈，仍奮力追擊不停，不幸腹部又中一彈，被部下救回後，延至8日，溘然長逝。
楊泗洪一慣“每戰必先”，劉永福感到極不放心，臨行前，告訴他要注意保護自己，“誡其自重”。楊泗洪說：“我如驅饑羊，搏飽虎，利在速戰，機在勇決。我苟不先，士氣少沮，無能為也。”
將軍一去，終於以生命回報了知遇之恩，盡了守土保國的天職。隻可惜終於能統軍殺敵，卻壯誌未酬。本來是一將難求，而黑旗軍痛失一員勇將，再遭一大挫折。
……………………………………………………
管帶朱乃昌搶回受傷的楊泗洪，回身力戰，繼續組織追擊，黃榮邦、林義成也帶隊來援，乘勢一舉攻過大莆林，眾人前仆後繼、不顧生死，楊乃昌也在這場血戰中陣亡。
此戰之後，日軍經他裏霧奔回莿桐港，又渡過濁水溪，直至北鬥鎮才停下腳步。分散於前線的其他日軍也大麵積地後退，以至連台中的雲林縣都不敢待了。
此後，雙方就在濁水溪隔溪對峙。
都司蕭三發接替擔任前敵指揮，黑旗軍巧妙利用地形，暗築工事設立障礙，敵人數度竄犯均告失利，才知道厲害。“溪中一帶沙漠（沙灘），數裏無人居處，中多蔗園、林投、蘆葦，可為埋伏之所。沙埔暗埋竹釘，桶上鋪竹木，馬軍多陷於泥淖，人馬死者甚多。”
近一個月，日軍隻是“日間越溪而戰，夜間即退駐北鬥”，不敢過分前出或停駐。
而黑旗軍和義軍也不斷前出襲擾，一度深入到彰化附近，弄得日軍十分緊張，以為要有反攻。
但是，台南的糧餉不繼，兵力也得不到補充，已經無力再進一步發動攻勢。十月上旬，日軍開始大舉進攻，台南的形勢便急轉直下，毫無挽回之術了。
……………………………………………………
當黑旗軍與日軍相持於濁水溪之際，日軍組成了南進軍司令部，任命副總督高島鞆之助中將為司令官，策劃大舉南侵。
除近衛師團，日軍調來了第二師團全部。著名的“肉彈攻擊專家”乃木希典來了。4月份，乃木剛剛晉升為陸軍中將，特封為男爵，由第一師團的第一旅團長升調為第二師團長，這個瘋子的幹勁當然是十足了。
到此，保守估計（除去病員外）日軍用於南進的總兵力達到了四萬，並有聯合艦隊配合。
請注意：這個規模，都已經接近遼東奉天南路的用兵數量了。要來對付的，還不是那十幾萬清軍。
日軍製定的計劃是：
一部為北白川能久親王率領的近衛師團全部，一萬五千人，自彰化經嘉義縣，由陸路直撲台南的正麵。
另一大部，為乃木希典中將率領的陸軍第二師團全部，主力約二萬五千人，由海路開向台南。
其中，伏見貞愛率第二師團第四旅團，從基隆登船，在台南前側麵布袋嘴港登陸。
山口素臣率第二師團第三旅團，從現駐地大連灣登船，從台南的後背麵枋寮港登陸。
乃木師團長及第二師團司令部也從基隆登船，在中部的中港或枋寮港登陸。
總指揮高島中將率領南進軍司令部，從中部布袋嘴港登陸。
海軍準備炮擊兩所登陸地點，並預定攻擊安平、打狗各要港。[ 《台灣抗戰日方資料》，《中日戰爭》(6)]
……………………………………………………
根據南進軍司令部的部署，近衛師團先行一步，向台南府的嘉義進兵。
9月29日，師團即發布命令，兵分三路：
中路，以川村景明少將率步兵第一聯隊及騎兵大隊部分人馬為前衛，從北鬥出發，經莿桐港、他裏霧、大莆林、打貓堡，向嘉義前進；北白川率司令部及本隊，在前衛之後跟進。
右翼，阪井重季大佐的步兵第二聯隊主力和部分騎兵炮兵分隊，經西螺街、土庫、新街，從西路進逼嘉義；
左翼，內藤正明大佐的步兵第四聯隊主力及部分騎兵炮兵分隊，經樹仔腳、雲林縣、火燒莊，從東路包圍嘉義。
但是，由於連日風雨大作，鹿港溪水深，不能涉渡，濁水溪更是大漲，平地幾成澤國。近衛師團無法出彰化南進，日軍隻好改變第一次作戰計劃，推後數日，等待天氣稍晴再繼續出動。
這期間駐紮在雲林的黑旗軍經常出來襲擾，“每夜暗渡，謀襲北鬥，夜間銃聲迭響。”
直到10月3日，近衛師團才出彰化南下。
南進途中，遭到黑旗軍和義軍的節節抗擊。
但是，日軍以優勢兵力，優勢的裝備，黑旗軍和義軍難以抵禦，損失甚大，黑旗軍都司肖三發和義首黃榮邦犧牲，卻無法阻止日軍。
到8日，近衛師團逼近，從北、東、西三麵包圍了嘉義。
……………………………………………………
嘉義，古稱渚羅，南距台南府城一百三十餘裏，負山麵海，為府城北路之屏障。城牆高兩丈有餘，厚約一丈二尺，城外有寬三丈的護城河環繞，河堤上遍植竹林。
此時，雲林一帶黑旗軍也在層層阻擊日軍後，全部退至嘉義，歸王德標率領，據城固守。
日軍四麵圍城，臨戰時，北白川能久晉升阪井重季為少將，接替已死的山根信成為步兵第二旅團長。
此番率近衛師團傾巢而來，南攻嘉義，心下自是誌在必得。但回顧侵台以來，曆時將近半載，多次苦戰，將士傷亡將近一半，自己也傷病在身，北白川不禁心情黯然，再無占領彰化時的興奮，還有那份建功立業的雄心。
有當時的一張照片，一片竹林中，一頂行軍帳篷前，部下不知從哪兒給他弄來一個很考究的沙發，貴為親王的北白川就坐在上麵，黑色軍服襯著滿頭滿臉的花白，似因疲憊而顯得十分老態。
那時候，他的詩也不複有先前的豪氣，而轉以黯淡。其中一首詩中寫道，“遠伐荊蠻百事辛，難堪惡水與炎塵。去京半歲君休笑，忽作白頭黑麵人！”[ 《台灣偶作》《甲午戰爭史》引自川崎三郎《日清戰史》]
數語之間盡寫征戰之苦，頗覺意態蒼涼，似將死之人的哀鳴。
這次嘉義之戰的十九天後，北白川即以傷病死於台南。
官方公布是染病而死，也有人說是他在大甲溪被擊中墜馬，已經負傷中。反正，都是不治而亡，未得善終。
……………………………………………………
10月9日，日本近衛師團向嘉義發動了總攻。
黎明，日軍各部隊從宿營地出發，分三路逼近嘉義，各自做著攻擊準備，欺負黑旗軍缺乏重武器，日軍步兵最前的鋒線竟已直抵城門七百米處。
11時30分，炮擊開始。炮火之熾烈，“恰如萬雷落地，天地為之震撼”。
嘉義城牆雖然堅固，但近代火炮出現以後，所有的城池已經無法抵擋大炮轟擊，幾乎失去了作用。
一時間，彈片、碎石紛飛。
黑旗軍冒著炮火，以血肉之軀奮勇抵抗，舍命“自城牆上進行非常猛烈的射擊”。