通過6年的私塾學習，黎元洪有了較好的文化基礎。1883年，在父親黎朝陽的大力支持下，他參加了北洋天津水師學堂的考試，並且一舉中的，成為一名水師學堂管輪科（輪機管理）的學生。
北洋天津水師學堂，是直隸總督兼北洋大臣李鴻章奏請朝廷，於1881年8月正式建成的。著名的啟蒙思想家嚴複，應李鴻章之邀時任天津水師學堂總教習。
學校主設輪船駕駛和輪機管理兩科。學堂有中外籍教習授課，英文是主科，開設的課程有地理、代數、幾何、水學、熱學、天文學、氣候學、繪圖、測量及槍炮操演、魚雷、機械儀器使用等。每星期，還要專門學習兩天中文經典，使學生能“明大義，知論人……以培養其根本。”
入校的學生，不僅待遇很好（一個學生憑了學校的補貼就可以養活八口之家），而且受到提拔的機會很多，即便還是學生，如果成績卓著，就可以得到破格錄用。正是這所學堂，為北洋水師培養大量的海軍人才，在此畢業的學生，很多後來都成為北洋海軍的骨幹，不少人在甲午海戰中為國捐軀，成為後世名人。
一扇中國海軍未來之星的大門，向年青的黎元洪敞開著，他的人生，走到了一條很有發展前途的起跑線上，前途似乎是一片光明。可就在這時候，在黎元洪進入水師學堂的第二年，他的父親突然因病離世。
時間是1884年2月26日，黎元洪聞訊匆忙趕回家時，父親黎朝陽的眼睛早已閉上。在父親的遺體前，母親向黎元洪敘說了父親的遺囑：要努力求學，謙虛做人，謹慎處事，學成後報效國家；要孝敬長輩、友愛弟妹，誠信於朋友。
黎元洪牢牢記住了父親的遺囑，一輩子認真地履行著。在學校裏，他不僅成績突出，在學生中還頗有聲望，尤其是品德之馨，特別令人稱道。除了忠厚僅仗義，幫助他人，還時常為同學承擔過錯，別人問他為何如此時，他回答道：“大丈夫當有任天下事的氣度，區區小事，何須避匿呢？”
因此，他得到了一致的好評，特別還得到學校的總辦周馥、總教習嚴複還有教官薩鎮冰等人的喜愛和器重，1888年，他以優異的成績從水師學堂畢業，被派到北洋水師服役。一到北洋水師，就獲得李鴻章破格提拔，親賞六品頂戴（現在地廳級無實職的官），年紀輕輕的，便做到應父親拚搏半世才獲得的級別。
黎元洪先在北洋海軍“來遠”號服役，兩年後又奉調廣東水師“廣甲”號。當時的水師內部，風氣非常不好，賭博、吸毒、嫖娼之類，司空見慣。獨黎元洪卻能出淤泥而不染，軍務之餘，隻以讀書，為唯一消遣。久而久之，其德之馨，便譽滿水師上下了。
1891年，朝廷用了18天時間，對海軍進行大檢閱，取得空前成功。李鴻章向朝廷奏報：“綜閱海軍戰備，尚能日新月異。目前限於餉力，未能擴充，但就渤海門戶而論，已有深固不搖之勢。”
黎元洪因檢閱中表現突出，升為千總（補用），次年又提為二管輪，賞五品頂戴。
1894年，朝廷再一次檢閱海軍，黎元洪隨“廣甲”艦北上。這時，朝鮮局勢已是箭在弦上，朝廷遂令“廣甲”艦等廣東、南洋艦隻暫不南返，與北洋水師一起，為運送清軍到鴨綠江口的大東溝登陸護航。
這是一個軍事秘密，卻被日本人得知。就在1894年9月17日這天，北洋海軍提督丁汝昌，率領北洋艦隊護送招商局輪船運送士兵準備返航時，突然遭到日本聯合艦隊的襲擊。
丁汝昌立即下令迎戰，列成人字隊陣的北洋艦隊，以定遠、鎮遠居中直撲敵艦。不料，定遠發炮時震塌飛橋，致使在飛橋上督戰的丁汝昌摔傷，隨即各艦一時失去指揮。日艦趁此利用航速快、速射炮位多的優勢，避開北洋艦隊定遠、鎮遠兩主力艦，繞向北洋艦隊側後，以左右舷炮轟擊兩翼小艦，又以首炮狂轟定、鎮兩艦背後，致使北洋艦隊隊形混亂，陷入被動局麵。