不久，他默默地收拾了行裝，悄悄上路了，繼續他的征程。在這次旅行中，優美的自然風光讓他暫時忘卻了情感的困擾，他歌詠羅雷萊的那首詩是《還鄉曲》中最有名的一首，經過謝爾夏的作曲，已成為一首世界名歌。還有在庫克斯港海濱所寫的八首詩（從第七首至第十四首），歌唱漁家姑娘和人魚以及海岸風光的詩，都是膾炙人口的傑作，也是在德國詩歌中初次出現的歌詠大海的詩篇。
1924年1月，他從已遷居呂訥堡的父母身邊重返哥廷根大學學習法律，並繼續寫詩，整理完成了《還鄉集》。
到了秋天，海涅從哥廷根到哈爾茨山區作了兩個月的徒步旅行，參觀過那裏的銀礦，登過布羅肯山頂，後來寫了一部《哈爾茨山遊記》。
秋天的哈爾茨山色彩繽紛，純淨超凡，詩人離開了庸俗的城市，來到大自然的叢山的懷抱裏，宛如進入了另一個世界，因此在詩中也就洋溢著一種新鮮的氣息。
他深深地被這自然的傑作迷倒了，為上帝的偉力折服了。他時常漫無目的地在山間遊蕩，聽鬆濤，飲流泉，隨身帶一支筆幾張紙，一本書，有時什麼也不帶，找一處開闊地，望望遠方，曬曬太陽。他有時會寄宿衣家，甚至去參加農家的勞動。9月底，在山上，他幫他寄宿的農家放了一個星期的羊，他從這單純的勞作裏感受了無窮的樂趣。他躺在山坡上半眯著眼睛的時候，他強烈地感到了心靈與自然的對話，而這對話就是詩。
所以，在《哈爾茨山遊記》中，我們看到詩人描寫了山居生活，自然景色，織進了古代的神話傳說，抒發了對祖國山川的熱愛和對勞動人民的同情。其中以《山上牧歌》最為重要。這首詩中的宗教問答，顯然是受到歌德《浮士德》第一部瑪加蕾特跟浮士德的宗教問答的影響，但兩者大不相同。在海涅這首詩中具有一種脫離宗教觀點的更偉大、更積援的意義，是革命的民主思想，這位聖神曾經衝破暴君的城堡，打破奴隸的鎖鏈，要醫好舊傷，修改舊規，使人人平等，不再有等級的區別，這就反映出詩人要反抗壓迫人的舊社會、解放人類的進步思想，而在歌德的劇本中，作者隻是借此抒發他的泛神思想。海涅信仰的三位一體的聖神已與神道無關。從《牧童》和《伊爾賽河》兩首詩中，可以看到，這時詩人已不再沉溺於浪漫派的夢境裏麵，麵對現實生活的肯定，具有強烈的傾向了。
從哈爾茨山回來，途經魏瑪。10月2日這天，他專程去拜訪歌德。此時的歌德已經75歲，27歲的海涅見到他時，他正穿著拖鞋，圍了長長的圍巾擁坐在安樂椅裏。他其實知道海涅，但由於長期破追尋他的人包圍，他已對年輕人感覺不出多大的差異了。
海涅謙謹的自我介紹與問侯都沒得到什麼回應，歌德一直沉默謄沒有說話，很久了，終於“唔”了一聲，顯然在考慮其他的事情。海涅沒想到自己少年時就崇拜的偉大詩人竟是這樣冷淡，他悶悶不樂地離開了魏瑪。1825年海涅脫離猶太教，受基督洗禮，成為路德派的新教徒。同年，獲法學博士學位。之後的8月至9月他曾去北海中的諾得奈島遊覽，這是德國北部海岸的東弗裏西亞群島中的小島，島上有古老的海濱浴場，遊人很多。
對前途的憂慮，對情感的迷惘使他心事重重。他終日徘徊在眾人不願去的礁石上，大海以慈愛包容安撫著他，又以狂暴洶湧蕩滌著他，拍在礁石上的浪花也拍上了他靈感的礁石：北海組詩誕生了。海涅在北海組詩中描寫的大海風光，使他成為第一個歌詠大海的德國詩人。歌德雖也在遊曆意大利時看過大海並且在海上航行過，卻沒有留下直接歌詠大海的詩篇，直到海涅，才第一次把大海作為詩歌的對象，描繪海灘、沙鷗、航帆、幻影、神話人物，描繪它的平靜和風波，描繪它的新鮮活潑以及它的強暴，展開了一幅波瀾壯闊的大海畫卷。同時在詩體方麵，為了傳達詩人內心中像大海一樣的奔放的情感，采用了自由詩體，不再是四行一節、使用傳統的押韻方式的舊的詩體，海涅自己也說，這些詩篇像一些“破蛹飛出的新蝶”，跳躍著新的生命，響著大海一樣的狂放的拍子。
讓人注意的是：北海組詩並不是單純描繪大海的自然景色，並不是單純的大海讚歌，而是交織著詩人對童年的回憶，對台萊賽的熱烈的愛情，對荷馬詩歌的傾倒，對祖國的熱愛，對貧民的同情。對於大海、雲彩，詩人都給了它們新鮮的活躍的生命。
有趣的是：在那常被霧氣包圍的北方海濱，在詩人腦海裏經常浮現著天神的影子，可是詩人卻不去描繪北歐神話中的群神，卻把南歐希臘神話中的群神搬到北方去，描繪他們，調侃他們，把自然和神同人結合起來，給自然灌輸了人的感情，創造一種獨特的、極其富於形象思維的詩歌境界。旅行歸家後，他把《還鄉集》增訂後與《哈爾茨山遊記》和《北海紀遊》中的第一部分組詩，於1826年彙編為《旅行記》發表，引起強烈的反響。同年再度往諾得奈，寫《北海紀遊》第二、三部分。1826至1827年在呂訥堡寫作類似自傳體的散文《勒·格朗集》。
因為書中進行了社會批判，受到普魯士當局的查禁。不久，他又去英國旅行約四個月，後寫成《英國斷片》。回國後他應科塔書店之邀去慕尼黑編輯《政治年鑒》。同時把他曆年所寫的詩彙集為《詩歌集》，交漢堡康派書店出版。《詩歌集》使詩人獲得世界的聲譽。這部詩集是德國詩歌中的瑰寶，德國浪漫派的最優秀的文學紀念碑。其中許多詩被一些著名的作曲家如舒曼、舒柏特、門德爾鬆、克肯、魯賓斯坦因、佛朗茨、布拉姆斯、拉赫納、洛畏等譜成了樂曲，深受人們喜愛。海涅的詩，在德國被譜成的歌曲約在5000首以上。這樣大的數量，連歌德都比不上他，在世界抒情詩人中也是首屈一指的。