唐景嵩終於帶著他的親兵衛隊，挾帶著民主國的大批銀兩，乘亂登上了一條德國船，結束了他的民主國總統生涯。6月7日，日軍在一批漢奸的帶領下進入台北。基隆、台北相繼失陷，唐景嵩離台回大陸，駐守台中的副總統丘逢甲、林朝棟等人皆無心再戰。6月9日，丘逢甲解散義勇，挾四萬兩餉銀倉皇內渡廣東；林朝棟也率其一部西渡漳州。台灣的不少府縣官員也紛紛離台。此時距離唐景嵩就任民主國總統隻有15天。台灣抗日的重任落在了劉永福的肩上。
危急中台灣人民再選新的領袖，劉永福堅決不任民主國總統，但他承擔起領導台民抗日的責任，苦撐危局。
唐景嵩溜了，民主國垮了，台灣民眾錯選了一個唐景嵩；但台灣的民眾沒有屈服，這次他們選出了一個真正願意領導他們抗日的領袖。在台灣民眾的擁戴之下，劉永福帶領他們組織起來，用極為簡陋的武器，抗擊日本侵略者。
劉永福在戰爭爆發之前就已經享有大名，他領導的黑旗軍是抗法戰爭的主力。中日戰爭爆發後，清廷任命他出任台南軍務幫辦，他深知台灣的重要性。因此，他雖然已經58歲，但接旨後沒有一絲猶豫，立即移往台南，“自問年將六十，萬死不辭……願合眾誌成城，製挺勝敵。”當清廷割台的動向明了後，他表示願與台灣共存亡。他堅持不受唐景嵩的總統職位，但卻沒有推卸抗日的責任。因此，台北淪陷後，劉永福重新布置了台南的防務，整頓了軍隊，而且跑遍了台南的山山水水，這些都與唐景嵩形成了鮮明的對照。與劉永福站在一起抗日的還有徐驤、吳彭年、薑紹祖等人，他們或是台灣的愛國士紳、或是黑旗軍的將領，所轄義軍多為當地農民，這些隊伍人數不多、武器落後，但捍衛家鄉的觀念非常強烈，土氣高昂，作戰極為英勇。
台北淪陷後，日軍南下的第一站就是新竹。當時，台中等地幾乎沒有正規部隊，因此日軍在南下進軍途中雖然遭到了義軍的抵抗，但日軍憑借優勢炮火很快就占領了新竹，這樣就對台中和台南構成了威脅，劉永福等人認為保住台南必須首先解除新竹的威脅。因此義軍在新竹失陷後立即組織了五倍於敵人的力量向新竹反攻，日軍再次憑借優勢炮火據城堅守。
日軍征服台灣最後一戰：嘉義保衛戰，劉永福主張用智不用力。劉永福失去任何接濟，陷入極困難的境地，張之洞不但不給予任何援助，反而說，劉永福是一個非凡之人，非凡之人能成非凡之事。劉永福氣憤地歎息道：“內地諸公誤我，我誤台民。”
彰化既失，日軍征服台灣的最後一步開始了。9月16日，日軍在台北成立了“南進軍司令部”，統一指揮南進台南事宜。此次日軍出動了兩個師團共計四萬人，一路由正路南撲台南，另一路由海路在台南的側麵登陸。其中，正麵攻擊由能久親王率領，海路攻擊由乃木陸軍中將負責。10月8日，能久兵臨嘉義城下。
於倭奴占領台灣百倍。至於槍械彈藥問題，我也無計可施，隻好請劉永福效仿諸葛亮草船借箭，劉永福本來就不是一個平常之人。非凡之人能成非凡之事。如果劉永福成功了，他就是鄭成功第二，不成功就做田橫第二。”麵對如此形勢，劉永福深知大勢已去，回天乏力，無奈而氣憤地說：“內地諸公誤我，我誤台民。”
10月18日，台灣最後一個城市台南暴露在敵軍的炮火之下。19日，日軍大舉進攻安平炮台，已屆花甲之年的劉永福親自操炮，擊斃日軍幾十人。當天晚上，他終於拋下了台灣的抗日軍民，帶著兒子和親兵，乘一艘英國船回到大陸。21日，日軍進駐台南。日軍至此占領了台灣全島。但台灣人民的抗日鬥爭並沒有因劉永福撤回大陸而停止，而是在以簡大獅、林少貓等人的率領下轉入了山區。
自腐敗的清廷割台以後，台灣人民以自己有限的力量，進行著反殖民地的鬥爭。他們在極其艱難困苦的情況下，孤軍庭戰，重創了日軍，斃傷敵人5000多人，而整個侵台日軍傷亡多達30000，占總數的一半，這個數字比整個甲午戰爭中大陸軍民殺死殺傷的日軍人數還要多出一倍。台灣人民用鮮血和生命在捍衛祖國領土完整和民族尊嚴的史冊上，鑄造了一座不朽的豐碑。