1994年中國工程院成立，這是我國工程技術界的最高榮譽性、谘詢性學術機構。次年7月，楊士莪以在中國水聲學科方麵的重大建樹當選為中國工程院院士。與他同時當選的還有：環境工程學家顧夏聲、光學專家薛鳴球、探礦工程專家劉廣誌、大地測量學家寧津生、礦產勘查專家湯中立等186位專家。
1995年8月中旬，楊士莪出席中國工程院朱高峰副院長召開的黑龍江省院士座談會，與他一同參加的還有林尚楊、劉永坦、謝禮立、沈榮顯院士。
當選為院士對於楊士莪來說，除了更多的會議和事務外並沒有太大的變化，他還是原來的他，他依然保持著謙虛、嚴謹的教學、科研態度。他說：“目前來看，我國的大多數工作還是在借鑒、模仿，適當改進和修正。擁有真正屬於我們自己的開創性的成果，是我們要努力的方向。現在我國也更強調一些基礎性、理論性的研究，但真正實踐力度不夠，有些急功近利。我們應該利用我國社會製度的優越性，組織優秀力量進行攻關，推動相關工作更快進步和完善。”
在科研領域中摸爬滾打了60餘年的楊士莪，深深地懂得科研和教學工作中嚴謹的重要性。“搞科研成長起來的人都知道，在科研上頭玩不了花招，你糊弄它，它就糊弄你。隻有你老老實實、規規矩矩，幹成的東西才能是實實在在的。
對學生要求也是這樣，可能別人覺得我比較嚴格，實際上就是嚴謹吧，我覺得這是搞科研應該有的態度。”
楊士莪認為，作為水聲工作者，應該非常重視實際的海上實驗和測量。在哈爾濱的60年中，他出差在外的時間合計起來就近30年，每年他都有大半時間在全國各地度過——海上實驗、課題論證、決策谘詢，以至於有人問及他的家鄉時，他便會幽默地說：“我是一個四海為家的人。”如今，雖然上了年紀，但他仍然身體力行，親自到海上實際參加海試。黑龍江，離大海很遠。自1953年來到哈軍工，楊士莪傾盡一生的心血，60個春秋，在這個遠離大海的城市裏從事著關於海洋科學的研究，與“海洋”打了一輩子的交道。大海的澎湃從來傳不到這裏，卻時刻能傳進他的心裏，濤聲如魅，成就了他一生的事業，成就了他大格局、大氣度的人生。
作為楊士莪帶出的第一個博士畢業生，擔任哈爾濱工程大學水聲工程學院院長、水聲技術國防科技重點實驗室主任的李琪，對老師楊士莪的一句話刻骨銘心——“要啃硬骨頭，別人不願幹的活，我們來幹！”
楊士莪始終處在水聲領域“國家隊”領導者的位置。他的同事和學生都說：
他對學科發展方向、研究方向的把握令人歎服，他提出的一些開拓性的研究，當初都是很冷清、無人關注，但總是在若幹年後，人們才看出其分量。矢量水聽器的研究就是其中一例：楊士莪當時提出這個方向時，國內同行都不以為然，隻有俄羅斯專家表現出關注。幾年後，當水聽器使聲呐水平跨越式提高以後，人們才意識到：“這個東西就是好！”
“敢啃硬骨頭才能練就一口好牙！”在楊士莪始終堅持的這個思想指導下，哈爾濱工程大學水聲創新團隊格外地有戰鬥力，承擔了國家大量的科研課題，雖然該院的科研人員隻占到全校的1/10，承擔的科研課題數量卻占到全校的1/5，人均科研經費50萬元。