聶赫留朵夫到彼得堡後，住在姨媽家。姨夫伊凡·密海羅維奇伯爵是前任國務大臣。聶赫留朵夫通過他的介紹，去拜訪了幾個有勢力的人物。其中有大法官渥爾夫、上訴委員會的委員佛羅比奧夫男爵、官辦教會負責人托波羅夫。但這些上層官僚們，同樣隻顧自己的私利，不管犯人的死活。通過訪問，聶赫留朵夫清清楚楚地看到：“這些官吏，從他姨媽的丈夫、大法官、托波羅夫算起，直到各部會的辦公桌前麵坐著的那些漂亮、幹淨、莊重、自以為了不起的大人先生們為止，雖然明明看見這種局麵使得無辜的人受苦，卻一點也不介意，所關心的隻不過是鎮壓和祛除所有的危險分子罷了”。
瑪絲洛娃上訴案，被大理院以理由不充分駁回。聶赫留朵夫離開彼得堡，把這壞消息告訴瑪絲洛娃聽。這時，瑪絲洛娃已離開了監獄醫院。她被人誣告與醫務助理員勾搭，而被趕回獄中。聶赫留朵夫再次向她表示：自己決心跟她上西伯利亞去。
瑪絲洛娃又重新愛上了聶赫留朵夫，而且愛得那麼深，不知不覺間她完全依照他希望她做的去做了：戒了煙酒，不再賣弄風情。但她又想到這種結合，對他是一種不幸。她不能接受所愛的人為她作出的犧牲。
押赴西伯利亞的犯人起程了。那是個天氣炎熱的七月，街上差不多一片荒涼，少數幾個過路人在路邊陰影裏走著。有的犯人經不起烈日照曬，當場中暑倒斃了。聶赫留朵夫一路為犯人惡劣的處境四處奔波說情，他幾乎成了犯人的袒護者。同時，在他運動下，瑪絲洛娃被調到政治犯行列中。在這個隊伍裏既安靜又和平，也不再受男人的糾纏。瑪絲洛娃感到政治犯都是些“可愛的好人”，並知道了他們跟平民站在一邊，反對上層階級。他們當中有些是屬於貴族階級的，卻為平民犧牲了他們的特權和自由，這使得她特別看重他們，佩服他們。她認識了一個叫西蒙鬆的政治犯。這是個靦腆、謙虛而又意誌力極強的人。他在大學畢業後，加入民粹派，任過鄉村教師，並“公開抨擊他認為虛偽和不公正的事情”。為此，他被捕了。不久，西蒙鬆愛上了瑪絲洛娃。這時，瑪絲洛娃必須在西蒙鬆和聶赫留朵夫之間作出選擇。她感到：“聶赫留朵夫是出於慷慨，又由於過去發生的事情，才向她求婚。可是西蒙鬆卻在她現在的境遇裏愛她，隻因為愛她而愛她。”於是，她接受了西蒙鬆的愛。
聶赫留朵夫靠彼得堡朋友副檢察長塞列寧的幫助，把瑪絲洛娃的案件，由服苦役改判為在西伯利亞近處流放。他把消息告訴給瑪絲洛娃。這時，有一種需要家庭和孩子的想法湧上他心頭。然而，瑪絲洛娃已決定跟西蒙鬆走。她不願意“毀了”聶赫留朵夫的生活。聶赫留朵夫再次遭到拒絕，但他沒有痛苦的感覺。他已盡了自己最大的努力和犧牲去愛她。他付出了足夠的代價來補償自己的過失。於是，他心平氣和地在獄旁椅子上睡了一個又香又甜的覺。最後，瑪絲洛娃和西蒙鬆走了。聶赫留朵夫被留了下來。他在福音書裏找到了五條生活準則：對上帝要虔誠、不起誓、要忍辱、愛敵人、勿反抗。他認為人們如果遵循這五條法則，並不斷悔過自新，便可以“獲得最大的幸福，地上的天國也會建立起來”。他開始過一種全新的精神生活。他的靈魂得救了。