1879年夏末，高爾基的母親死後，11歲的高爾基不得不開始了社會上的謀生。這年的秋天，小高爾基到了下諾夫戈羅德的波爾洪諾夫的鞋店裏去當學徒。每天早晨，高爾基都得比別人早起一個小時，把老板一家人和夥計的皮鞋擦好，刷好他們的衣服，燒好茶飲，給所有的爐子準備好木柴，把午飯用的飯盒洗幹淨。一到鋪子裏，便是掃地、撣灰塵、準備茶水、上買主家送貨，之後再回老板家取午飯，整天忙得不可開交。就這樣小高爾基幹了一冬天。但有一天，午飯前在煤油爐上燒湯的時候，高爾基被熱湯燙傷了雙手，被送進了醫院。
燙傷養好後，外祖父又把高爾基送到一家遠親的繪圖師和建築工程承包商謝爾蓋耶夫家中，做了這裏的學徒。然而，他們並不教給他繪圖的手藝，相反，卻叫他去幹女仆的活計——打掃房間，洗刷器皿，還得供兩個嘮叨不休的老板娘差遣。
高爾基要擦拭各種器皿，每逢星期六要擦各屋的地板和兩道樓梯，還得劈好燒柴，並把它們抱進屋裏，要洗菜，帶孩子，跟主婦上市場，跟在她們後麵拿著裝滿買的東西的籃子。後來，高爾基回想起來說：“我做的事情很多，差不多要成個傻瓜了，平時和節日都一樣地堆積著瑣碎的、無聊的、沒有益處的事情。”
謝爾蓋耶夫家的家規和幹不完的活兒，使得高爾基無法離開屋子出去。不過，主人卻叫他去教堂，因此，教堂便成了高爾基唯一可以自由消遣時間的地方。他長久地站立著度過漫長的晚祈禱與彌撒，但他並不禱告，而是在構思著自己的“禱告詞”。詞語自然地不費力地便形成了詩句，這些詩抒發他的煩悶無聊，“希望趕快地長大”，“實在不耐煩再活下去”，“學手藝也沒學出什麼名堂來”，而女主人“喊叫起來像一隻狼”，“我實在沒法活”。
無論是和主人“以牙還牙”的談話，還是孩子氣的惡作劇的爆發，不論是充滿激情的哀怨祈禱，還是在教堂某個昏暗角落裏形成的強烈而模糊的幻想，所有這些都是他在這庸俗、混沌的生活中保衛自己心靈和保衛自己人格的方法。
在徹夜祈禱的時候，他能夠按照自己的方式去滿足自己對於周圍世界的求知欲望，他不去祈禱而是披著冬夜的繁星在城裏空寂的街道上散步。如果人家的窗子結的冰還不夠厚，而且裏邊還沒有掛上窗簾，他就可以透過底層樓房的窗口向屋裏觀望。
這些窗子使高爾基看到許多不同的畫麵。他看見人們怎樣祈禱、接吻、打架、玩牌，或者專心而又沒有聲音地談話。一種無聲的、魚一般的生活在高爾基麵前展開。可是，在謝爾蓋耶夫家高爾基卻生活在苦惱得令人神誌不清的雲霧中，那裏凝結著的是同樣單調的語言、概念和事件，引起的隻是沉重而令人厭惡的苦悶。
有時候他曾想：“應該逃走了！”然而外麵正是該死的冬天，每到夜裏暴風雪就不住地呼嘯，風在閣樓裏逞威，房架凍得哢哢地響。人往哪兒跑啊？
後來高爾基終於受不了了，他告訴繪圖師，他不是來打雜的，他要學手藝。繪圖師並不生氣，給了他紙筆、三角板和尺子，讓他臨摹圖紙。他的第一張臨摹是失敗的。繪圖師並不生氣，耐心教他怎麼畫，後來他畫出了一張近似原圖的圖紙。可是繪圖師的母親卻擔心這孩子將來會奪他兒子的飯碗，總是跟他搗亂，不是在圖紙上潑煤油，就是讓高爾基不停地幹活，甚至動手打他。於是學手藝的事就不了了之了。
1880年春天，高爾基從繪圖師那裏跑了出來，但他羞於回到外祖母家去，因為他答應過外祖母“在沒長大時，要忍耐”。高爾基沒有回家，他來到了伏爾加河堤岸上，在裝卸工人身邊混飯吃，並且同他們一起夜宿在碼頭上。
在這裏他為自己謀到了一個新位置。
他到了他父親做過細木工匠的那個輪船公司的“善良號”輪船上去當“小洗碗工”。
高爾基曾這樣地回憶起自己在“善良號”上的生活：
我們的輪船走得慢，有事要辦的人都坐郵船去了，搭乘我們這條船的都是些氣度安詳的閑人。他們從早到晚喝酒、吃飯，把很多的盤餐具、刀、叉、勺子弄髒。我的職務就是洗盤子、洗碟子、擦刀叉，從早晨六點鍾起，幾乎直到半夜，都忙著幹這活。輪船的後麵一條長纜索拖著一隻駁船，駁船的甲板上像是罩著一個鐵籠子，籠子裏麵裝的都是些被判終身流放而且去服苦役的囚犯。那條駁船上安安靜靜，月光傾瀉到船上來。從我們的輪船這邊，可以隱約看見那個鐵籠子的黑柵欄裏有些灰白的圓斑點，那是囚犯們在眺望伏爾加河。
那幾年裏，有相當多的政治犯也被編入用這種方式發送的大批刑事犯的行列裏。因為沙皇政府被民粹派的革命運動嚇破了膽，所以在19世紀70年代就采用了最殘酷的鎮壓手段來對付他們。
他們以“企圖逃跑”的罪名，屠殺革命者，經過或不經過審判就絞死他們，特別是在1878年5月24日的“聖旨”和其他專製法令頒發以後，他們更把大批革命者數十名、數百名地送去服苦役，或者流放到西伯利亞最遙遠的角落裏去。
1880年夏，即高爾基在輪船上做洗碗工的第一個夏天，在“善良號”運載犯人的駁船上，就有當做政治犯發配到西伯利亞流放地去的俄國作家柯羅連科。
在“善良號”上，高爾基結識了他的頂頭上司——輪船上的一位廚子，曾經做過近衛軍中士的米哈伊爾·阿基莫維奇·斯穆雷。他表麵上看來很凶狠，其實是故意裝出來的。他後來告訴高爾基說，要是人家知道你是好心人，就會把你折磨死。但他常常教育高爾基要做好人。他在高爾基的一生中起過很好的作用，高爾基曾不止一次地指出了這一點：
他喚起了我對於讀書的興趣。斯穆雷也有一個大皮箱，裝得滿滿的，主要是些皮麵精裝的小書，這是世界上最奇妙的圖書館。
他把艾卡爾特斯加烏金的作品同涅克拉索夫的放在一塊，斯穆雷酷愛書籍，但他不善於鑒別它們。他對高爾基說：
人跟人的差別，都在腦筋上邊，有的人聰明一點兒，有的人不太聰明，還有些人完全是傻瓜。一個人想聰明，得多念書，正經的書固然好，壞的魔道書也好，念得越多越好，要把所有的書都念過，才能找到好書……
斯穆雷總是不加選擇地叫高爾基大聲朗讀這些作品給他聽，由於他對書籍非常熱愛，因而也喚起了高爾基對於讀書的強烈興趣，使他相信了書的重大意義並愛上了它。有一次高爾基朗讀了果戈理的中篇小說《塔拉斯·布爾巴》，他聽得入了神，時而啞然失笑，時而涕淚滂沱，他說讀這樣的好書就像過節一樣。他讓高爾基要好好學習，讀不懂就多讀幾遍。就這樣，高爾基從小養成了讀書的習慣，同書結下了不解之緣。
1880年秋，高爾基又回到繪圖師謝爾蓋耶夫家中。
同斯穆雷的結識，對高爾基的一生產生了很大的影響。他從那時起讀書欲就從沒有減退過。返回到謝爾蓋耶夫家工作後，高爾基就貪婪地讀著落到他手裏的各種書，書變成了他不可缺少的東西，缺了書就像好酒貪杯的人缺少伏特加酒一樣。在這裏，他的工作比以前更加繁重。主人們嚴禁他讀書，看書要受懲罰，書也被沒收。但是高爾基已經養成了讀書的習慣，每當晚上人們睡熟之後，他便偷偷地拿出書本來看。沒有燈，他就借用神龕上長明燈的光亮，有時還點上一支小蠟燭，讀得津津有味。繪圖師的母親是一個守財奴，她把家裏的蠟燭頭數得一清二楚，並且量好了長度，一發現短少，就揪住高爾基痛打一頓。高爾基沒有辦法，隻好靠銅鍋映著月光來看書。他看書非常專心，有一次不慎燒壞了茶具，老太婆用木棍把他毒打了一頓，木柴上的小刺紮進了高爾基的皮肉裏，使他痛苦難忍，人們不得不把他送進醫院。醫生從高爾基的背上夾出42根木刺後，氣憤地對他說：“這是虐待，應該告發。”可是高爾基沒有這樣做，隻要求主人允許他看書。
少年時代的高爾基為了讀書付出了很大的代價。書籍在高爾基麵前展示了一個奇妙的新世界，給他帶來了無窮的樂趣和教益。
高爾基曾這樣描寫他當時看書時的興奮心情：
大仲馬、龐遜·德·泰爾萊利（法國作家，1829—1871，著有多卷的《羅坎博爾曆險記》等驚險小說）、紮孔納（1817—1895，法國驚險小說作家，著有《一個警察局密探的手記》等小說）等人的厚厚的書，我都一本一本地迅速地囫圇吞下去。多高興啊，我覺得我自己也好像是一個過著非凡生活的人物了。這種生活激勵著我，使我振奮。
雖然這些“主人公”都是虛構出來的，他們樹立的“豐功偉業”都是幻想的結果，然而，這些長篇小說卻在一個“鉛一般沉重的生活”氣氛中生活的敏感的孩子麵前，揭示出了一些堅強的和勇敢的人。
高爾基後來回憶說：
羅坎博爾（法國作家彭桑·杜·特裏爾所著驚險小說中的人物）教導我做一個堅韌不拔的人，對環境的力量決不屈服。大仲馬筆下的那些人物啟發我樹立一種獻身於某種重要而偉大的事業的誌願。作為一個被傻頭傻腦的工作折磨著的孩子，作為一個受盡愚蠢的辱罵的孩子，我為自己立下了神聖的誓言：長大時要幫助人們，忠實地為人們服務。
由於經常把書籍和生活加以對照，高爾基的知識麵擴大了。他回憶說：
我看到有一些人的生活比我壞得多，困難得多，我雖然不屈服於這可憎的現實，但它卻多少使我得到了安慰；我也看到了有些人生活得興致勃勃，每天都如過節一般，而我周圍的人誰也不能過上這種日子。
這樣，“驚險小說”的技巧很快就被高爾基看穿了。有時看了頭幾頁，就可推測到誰勝誰敗，而且故事線索一弄明白，高爾基就努力用自己的想象力來替書中的人物解開扣子。
這種內容近似的小說，使高爾基產生茫然的懊喪，並開始懷疑這些書的真實性。他回憶說：
這時候，忽然得到了龔古爾的一本叫做《桑加諾兄弟》的長篇小說，我花了一整夜一氣念完了。我很驚奇，這裏有一種我從來沒有經曆過的東西，於是我又把這平凡傷感的故事重新看了一次。這本書裏，並沒有錯綜複雜的東西，表麵上沒有什麼趣味。開頭幾頁跟聖賢傳一樣，生硬枯燥，用語很準確，毫無一點誇張。一開始引起我一種不愉快的驚奇感，可是用樸素精練的句子組織起來的文章，卻很好地記在我心裏了。