1936年5月，克裏米亞的氣候幹旱而又炎熱。高爾基乘火車來到莫斯科，莫斯科也是悶熱異常，他不得不搬到鄉下去居住。
由於長途旅行的勞頓，加上身體一直不適，高爾基在哥爾克村患上了重感冒。衰弱的心髒和肺部使他一病不起，他的主治醫生使盡了各種手段，仍然沒有能夠控製住病情。
從6月6日起，《真理板》《消息報》和其它各報開始發表高爾基的病情公報。人們十分關心高爾基，慰問電和慰問信雪片似的向哥爾克飛來，大家都希望敬愛的作家早日恢複健康。為了安慰高爾基，《真理報》還專為他印了一份不刊登病情公報的報紙。
6月8日，斯大林、伏羅希洛夫、莫洛托夫等布爾什維克領導人到醫院去看望病中的高爾基，不料，這竟是他們的最後一次會見。
氣喘使高爾基不能躺下來，他終日坐在圈椅裏，頑強地忍受著疾病的折磨。每當他感到輕鬆一點的時候，他就同周圍的人們說笑，他嘲笑自己的軟弱無力。有時候他還談論文學，談論生活。
在這個時候，高爾基經常懷念列寧，他讀的最後一本書是《拿破侖傳》。它由著名曆史學家塔爾列在1933年完成。在這本書的書頁上，至今保留著高爾基畫的記號，但他最終沒能夠讀完這本書。
高爾基最放不下的還是他的長篇小說《克裏姆·薩姆金的一生》，他多麼希望這一次還能夠挺過去，他對周圍的人說：
“我在拚著老命寫，小說的結局，主人公的結局，作者的結局。隻要活著，活著！未來的每一天都會帶來奇跡。未來是無比非凡的，最有想象力的人也難以預見到！我們的生命太短暫，實在太短暫！”
他使盡全力用鉛筆在小紙片上寫下自己的感受：
“東西變得越來越沉重，書籍、鉛筆、玻璃杯，一切都顯得比以前小。”
6月16日，高爾基突然感到病痛緩解了，他對醫生說：“瞧，我今天好多了，我堅信我會再次好起來的。”
但醫生心裏明白這隻是病人臨終前的回光返照。果然，高爾基又發起了高燒，並且咳血。彌留之際，他斷斷續續地說起對爆發世界大戰的擔心：
“要發生戰爭……必須做好準備……”
1936年6月18日，高爾基完全失去了意識，莫斯科時間上午11時10分，世界文壇一顆巨星殞落了，高爾基永遠的閉上了那雙熱情、坦率而又睿智的眼睛。
蘇聯最高領導人斯大林下令為高爾基舉行國葬。莫斯科蘇維埃大廈上插上了喪旗，噩耗傳遍了世界的每一個角落。
高爾基的遺體由哥爾克村運抵莫斯科，停放在蘇維埃大廈的圓柱大廳，靈樞周圍是鮮花和翠柏。國家領導人斯大林為高爾基的遺體守靈。絡繹不絕的群眾趕來瞻仰他的遺容。
6月20日，莫斯科的紅場披上了黑紗，高爾基的追悼大會在這裏隆重舉行，千百萬群眾湧到這裏。會後，工作人員將把高爾基的骨灰安放進列寧墓後的克裏姆林宮宮牆裏。
蘇聯人民委員會主席莫洛托夫代表蘇維埃政府在追悼會上所作的演說表達了蘇聯人民對他們的偉大作家的深切哀悼和無比崇敬：
今無，和阿列克賽·馬克西莫維奇·高爾基訣別，我們，他的朋友，和無數的他的作品的讀者與崇拜者，都感到他永遠是我們生命中的光榮的一頁……在列寧逝世以後，高爾基的逝世是我國和人類的最嚴重的損失。