唐代水軍的兵器，同前代一樣，仍然是刀、槍、劍、戟、弓、弩、長斧、長鉤矛、拍竿等冷兵器。
從北宋開始，我國兵器的發展，進入了一個新的曆史時期。其主要標誌，是火藥應用於軍事以及火器的創製與發展。從此，我國水軍的兵器也隨著發生了質的變化，即不再是清一色的冷兵器，而是冷兵器和火器並存並用。鹹平五年（1000年），宋真宗神衛水師隊長唐福獻火箭、火球、火蒺藜，這說明我國水軍已經裝備火器。到宋仁宗時（1023年～1063年），北宋的火器已有火箭、火炮、火藥鞭箭、引火球、蒺藜火球、鐵嘴火鷂、竹火鷂、霹靂火球、煙球、毒藥煙球等10餘種。（《武經總要》）這些火器，就其性能和使用方法來看，大都是水陸通用的。
到了南宋，水軍裝備的火器越來越多，主要有以下幾種：
火箭這是一種用弓弩發射的火箭。用紙把火藥包裝成球狀或卷筒形，縛在靠近箭鏃的箭杆上，用時先點火，然後射向目標，引起燃燒。這種火箭在宋金陳家島海戰中曾大量使用，並發揮了重大的作用。
火球火球的種類甚多，包括有聲的、有毒的，火炮、火桶和火磚也屬此類。在水戰中，可用拋石機拋射；順風時，亦可居高臨下，用人力投射。有一種火炮叫“萬火飛沙神炮”。其製作方法是用燒酒、炒石灰末、砒霜、硇砂、皂角等14種藥料，製成飛砂藥，並配以火藥盛於磁罐內。水戰中，點燃引信後，居高臨下順風將磁罐投到敵船，火發罐破，煙霧迷漫，遮障和毒害敵人。
毒藥煙球球重5斤，用硝石、硫磺、狼毒、砒霜等13種藥料搗碎混合製成一個圓球，再用舊紙、麻皮、瀝青等六種材料搗碎混合塗在外麵。水戰中，用炭火燒紅的鐵錐將球鑽透發火，順風拋向敵船，使敵人中毒，口鼻流血。
萬火飛沙神炮
毒藥煙球火球類火器形製雖多種多樣，但性質和作用並無多大差別，無非是燃燒、放毒氣、殺傷、迷盲、煙幕等。宋祥興二年（1279年），宋元兩軍在崖山（今廣東省新會以南）海戰中，都使用過這類火器。
霹靂炮這是一種爆炸火器。據宋代楊萬裏《誠齋集·海魚酋賦》記載，這種炮是用紙筒裝生石灰和硫磺製成的，點著後升入空中，降落水內，硫磺石灰得水而火發，再從水內跳出，紙筒裂開，石灰煙霧四散，迷盲敵人。這種霹靂炮曾在采石磯水戰中使用過。
現代科學家馮家升認為，單是石灰和硫磺，點著後不會升入空中，很可能是筒子有兩節，下節裝火藥，上節裝石灰、硫磺，因而點著後，霹靂一聲，升上天空；降落下來，又霹靂一聲，紙筒碎裂，煙霧石灰四散。這種推論是合乎科學的。
突火槍開慶元年（1259年），壽春府（今安徽壽縣）創製了“突火槍”。這種槍“以巨竹為筒，內安子窠，如燒放，焰絕然後子窠發出，如炮聲，遠聞百五十餘步”。（《宋史·兵誌》）這種“子窠”，據考證可能是瓷片、碎鐵子、碎石子之類的東西。這種竹製管形火器盡管射程近、威力小、管身容易燒毀炸裂，但卻是以後使用彈丸的金屬管形火器的先河。
宋代突火槍宋代火器雖然有很大發展，並在戰爭中起了一定的作用，但水軍作戰仍以冷兵器為主，而且火器還要用冷兵器來發射，所以冷兵器，尤其是拋射冷兵器，還有所發展。例如在長兵器的前端縛上內裝火藥的紙筒或竹筒，戰鬥時先燒後刺，增強了戰鬥效能。又如北宋製造的床弩，射程可達千步，有的一次可發射幾十支箭。拋石機的性能也有提高，最大的拋石機可拋射100斤重的石彈和火器。
金國軍隊對火器也有重要發展，最著名的是鐵火炮——震天雷。紹定四年（1231年），金軍將領板訛可在河中府（治今山西永濟）被蒙軍擊敗後，率3000餘人乘船逃走，途中用震天雷炸毀了攔截的蒙軍戰船，才得以逃至潼關。（《金史》卷一百十一）這是震天雷用於實戰的第一次記錄。震天雷是用鐵容器內裝火藥，點燃通出容器口外的撚子後引起爆炸。“聲如雷震”，“鐵甲皆透”。