明萬曆十一年（1583年），居住在中國東北的滿族部落首領努爾哈赤率眾起事時，隻有騎兵和步兵、沒有水兵。
萬曆四十四年（1616年），努爾哈赤在赫圖阿拉（今遼寧新賓縣永陵）稱汗，定年號“天命”，正式成立了後金政權。同年，努爾哈赤派手下大將扈爾漢領兵2000人攻打薩哈連部落。該部落位於黑龍江、精奇裏江、牛滿河地區，江河縱橫。後金軍隊來到烏勒簡河畔後，被河水擋住去路，遂派出600名士兵到河流上遊的森林裏伐木，“刳舟二百，水陸並進，取河南河北諸寨，凡三十有六”，其後又跨過黑龍江，“取薩哈連部內十一寨”。（《清太祖實錄》卷五）接著，後金的軍隊又乘勝征服了東海（今日本海）沿岸的使犬部落。次年，努爾哈赤再度派遣水陸部隊出征在東海邊散居的各部落。對於那些“島居負險不服者，乘小舟盡取之”。其中，包括庫頁島上的各部落。（《清太祖實錄》卷五）
在上述的各次作戰中，後金軍隊的水師應運而生了。盡管這時的後金水師還是一支裝備、編製等方麵都很不完備的部隊，帶有臨時的性質，但它畢竟標誌著後金軍隊已從陸上打到了水上，已由騎、步兵發展到水陸協同作戰的合成軍隊。明天啟元年（後金天命六年，1621年）三月，明朝軍隊在沈陽和遼陽失敗之後，後金軍隊乘勝南下，派兵千餘人輕而易舉地奪取了遼東牛島及近海島嶼，從海上對明朝形成了新的威脅。
為了防止後金軍隊渡海南進，明政府任命熊廷弼為遼東經略，策劃收複失地。熊廷弼主張從天津和登州、萊州出兵，渡海進攻遼東半島，配合遼西陸路作戰。僅3個月，已組建水陸師部隊3萬人，征集和新造戰船、運輸船2000艘。然而，熊廷弼的作戰計劃因遼東巡撫王化貞的強烈反對而告破產。工化貞另行派出遊擊毛文龍率領一支由220名壯士組成的精銳部隊潛入遼東牛島，開辟第二戰場。
五月，毛文龍部在三岔河上船，從遼河口出海，沿遼東半島南下，沿途攻克了豬島、廣鹿島、石城島、長山島等島嶼，殲滅或驅逐了島上的後金守軍，最後在彌串堡（今朝鮮境內）登陸，由於得到當地漢民支持，毛文龍部迅速壯大。七月二十日，毛文龍領兵奇襲了鴨綠江畔的後金據點——鎮江堡（今丹東九連城），生俘後金軍遊擊佟養真。鎮江堡的捷報傳到北京後，明政府晉升毛文龍為廣寧都司兼副總兵。王化貞建議朝廷應立即派遣天津、登萊一帶水師前往增援，擴大戰果。但熊廷弼卻不以為然，各地水師按兵不動，從而失去收複遼東的良好戰機。
努爾哈赤得知毛文龍取勝的消息後，十分震怒，立即派皇太極率領精兵3000人直撲鎮江堡。毛文龍寡不敵眾，退往朝鮮境內。後來，毛文龍就以皮島（今椴島）為中心創建了明軍的海上根據地，被明政府授予東江鎮的番號。東江鎮明軍主要是水師，分駐在三山島、廣鹿島、長山島、石城島、小鬆島、鹿島、皮島等島嶼上，不斷襲擊遼東半島上的後金軍隊。
明天啟三年（後金天命八年，1623年），毛文龍派守備張盤、程鴻鳴率水師一部從麻羊島出發，夜襲金州。後金守軍500多猝不及防，倉皇逃遁。明軍水師占領金州，並分兵一部進駐旅順。
次年五月，毛文龍又派出一支部隊乘船溯鴨綠江而上，在珠舍裏（今吉林渾江境內）登陸，奇襲輝發（今吉林樺甸），像一把利刃插入後金腹部。
明天啟六年（後金天命十一年，1626年），毛文龍的一支部隊突然出現在盛京（今沈陽）以南的鞍山驛。努爾哈赤極為震驚，急令八旗精銳前去討伐。明軍又矛頭一轉，攻擊後金軍隊糧草屯集地薩爾滸（今遼寧撫順以東）、鳳凰城、湯山、險山等地。不久，毛文龍以戰功晉升左都督。
明軍水師以近海島嶼為依托，派出精悍的小部隊頻繁地進行兩棲攻擊。進攻打得後金軍隊防不勝防。退回到海上，令後金鐵騎望洋興歎。後金騎兵隻得在遼東半島上來回堵截，疲於奔命。這種被動挨打的狀況，使努爾哈赤深刻認識到水師的重要，並下決心發展後金水師力量。
明崇禎二年（後金天聰三年，1629年）六月，明政府內部矛盾的激化，嚴重削弱了東江鎮明軍的力量。當時，明政府派督軍袁崇煥赴雙島犒軍和閱兵。毛文龍前來拜見，被袁崇煥以通敵等罪名斬於帳前，毛文龍部官兵2.8萬人和戰船150艘被改編成4協。袁崇煥是明末著名的將領，曾在寧遠之戰中大破後金軍隊。但他誅殺毛文龍的行動，卻導致東江鎮明軍內部人心渙散，士氣衰退。軍事形勢開始逆轉。明崇禎四年（後金天聰五年，1631年）五月，後金軍隊一改以往被動防守的局麵，出動6000多人乘船渡海攻擊皮島。明軍征虜前將軍都督僉事黃龍指揮皮島守軍堅決抵抗，並派副總兵張燾率水師襲擊身彌島上的後金部隊，初戰獲勝。接著，明軍水師出動100餘艘戰船向後金軍在朝鮮西海岸的據點宣川浦大舉進攻。“戰艦蔽海，連日進戰，炮煙四塞，聲振天地。”明軍唬船、舢板裝備有威力“洋炮”和大量的三眼鳥槍，猛烈的火力打得後金軍隊死傷慘重。六七百人當場斃命，負傷的就更多。後金軍隊的船隻全部喪失，殘兵退到離海岸80裏以外的地方。通過此次海戰，後金首領進一步認識到要消滅東江鎮明軍，必須建設強大的後金水師。