《蘇日中立條約》於1941年4月13日簽訂。條約為期5年，條約規定：“雙方應維持兩國間的和平友好關係，並且相互尊重領土完整和不可侵犯。”條約指出，締約一方成為第三國或第三國家集團的軍事行動對象時，締約另一方應守中立。蘇聯政府知道，《蘇日中立條約》能減少日本進攻蘇聯並迫使自己兩線作戰的危險，但不能完全保證法西斯德國的盟國——日本軍國主義遵守所簽訂的條約。因此，在衛國戰爭期間，斯大林不得不在遠東保持大量的兵力。由於國際形勢複雜多變，這個條約使蘇聯贏得了一些喘息時間。
在1941年的頭幾個月裏，雖然蘇、德在形式上還保持著正常關係，但卻日益緊張起來。3月，保加利亞加入了軸心國，南斯拉夫也同意加入。然而，3月27日，在南斯拉夫爆發了反對親德政策的暴動，結果成立了以西莫維奇將軍為首的新政府。斯大林不失時機地同南斯拉夫的新政權簽訂了《友好和互不侵犯條約》，可是當德國軍隊侵入南斯拉夫、無情轟炸貝爾格萊德的時候，斯大林麵對南斯拉夫的慘狀卻無能為力。
麵對日益緊張的局勢，5月5日，斯大林在克裏姆林宮向幾百名剛從軍事學院畢業的年輕軍官發表了重要的講話。他強調了紅軍建設中實現現代化和更新裝備的重要性。同時他還提醒他們說，局勢很嚴重，不能排除德國在不久的將來發動進攻的可能性。他坦率地告訴他們，紅軍還不夠強大，還不能輕而易舉地粉碎德軍，紅軍仍然缺少現代化的坦克、飛機和其他裝備，紅軍的官兵們仍在訓練的過程中。蘇聯政府正努力通過外交和其他辦法把德國人拖到秋季，冬天的到來會把德國人的進攻推遲到1942年。如果蘇聯的策略獲得成功，那麼同納粹德國的戰爭必然會在1942年發生，但這樣就會贏得幾個月準備戰鬥的寶貴時間。從現在起到8月份是最危險的一段時間。
這次會議之後，蘇聯有意作出“親善”的外交姿態，繼續煞費苦心地設法防止任何挑釁的行動。1941年6月14日，蘇聯塔斯社授權發表了一項隻能是麻痹自己的聲明，進一步強調了同德國的“友好關係”，說德國“和蘇聯一樣堅定不移地恪守《蘇德互不侵犯條約》的條款”，並且否認從倫敦散布出來的“兩國在近期會爆發戰爭的謠言”。柏林方麵對這些姿態置若罔聞，希特勒已經下定決心實施他的“巴巴羅薩”作戰計劃。在入侵蘇聯的前一天晚上，希特勒給墨索裏尼寫了一封《關於消滅俄羅斯的計劃》的密信。他在信中寫道：“當我作出了這一決定後，內心感到我又獲得了自由。”
在這些日子裏，克裏姆林宮的空氣異常緊張，斯大林承受著很大的壓力。他清楚地知道，同法西斯德國這樣一個有經驗的強大敵人作戰，將給蘇聯人民帶來多麼深重的災難。所以他竭盡全力爭取時間，加強戰備，盡量防止戰爭在1941年爆發。但是能否獲得成功，他沒有把握。這時，各種各樣的相互矛盾的情報和謠傳送到他麵前。德國的參謀長於1941年2月15日發布了一項“用假情報迷惑敵人的特別訓令”，以掩蓋“巴巴羅薩”作戰計劃。傳出的假情報說，“德國軍隊在東線的調動，原屬於曆史上最大的迷惑演習，旨在分散人們對入侵英國的最後準備工作的注意。”毫無疑問，斯大林也受到了這種假情報的影響。他不相信希特勒會孤注一擲，背離俾斯麥的東方政策的傳統，即“要求德國在西方進行戰事時，應該避免對俄國的戰爭”。
1941年4月初，丘吉爾給斯大林發來一份親啟電報，提醒他注意德國軍隊的調動和德國即將向蘇聯發動進攻。此後，英國方麵於6月18日向蘇聯駐倫敦大使發出緊急警報。蘇聯駐柏林大使館的報告以及蘇聯在日本的傑出的情報人員理查德·佐爾格的報告，都提到了德國入侵蘇聯的確切日期。斯大林對這些報告均持懷疑態度，他仍然極不信任英國。他既不信任張伯倫，也不相信丘吉爾。在外國武裝幹涉期間，丘吉爾對蘇聯的所作所為，給他留下了極為深刻的印象。斯大林認為，英國及其他西方國家的政府正竭盡全力慫恿德國對蘇聯作戰，認為他們正處在嚴重軍事形勢之下，為了避免本身覆滅，非常希望德國進攻蘇聯。尤其是希特勒的副手魯道夫·赫斯，他於1941年5月11日飛往蘇格蘭，這更加劇了斯大林對英國秘密外交活動的懷疑。
1941年春天，西方國家盛傳蘇聯對德國進行大規模軍事準備的挑撥性消息。德國報刊大肆渲染這類消息，並且抱怨說，這些消息使蘇、德關係受到損害。“你看，”斯大林說，“用德國人嚇唬我們，用蘇聯嚇唬德國人，有人就唆使我們敵對，以收漁翁之利。”這樣，斯大林對英國人的提醒徹底否決。
斯大林對希特勒過分小心謹慎，總希望推遲戰爭爆發，對德國無數次破壞已簽署的協議未作應有的反應，縱容了一天天變得蠻橫無理的希特勒，使他覺得蘇聯軟弱無比且極易攻陷。甚至到了最後時刻，即德國軍事機器的彈簧縮到準備對蘇聯實施致命打擊的時候，斯大林還希望能防止發生可怕的衝突。但是，柏林已作出了決定：使用外交語言的時代已經結束了。
1941年6月21日夜間，朱可夫從基輔打來的電話裏獲悉，一名德軍司務長越過了防線對蘇聯指揮員說，德國軍隊將在次日淩晨發動進攻。朱可夫立即向斯大林和鐵木辛哥作了報告。“也許這是德國將領們把這個逃兵送來，是為了挑起衝突吧！”這是斯大林的第一個反應。“不，我們認為逃兵說的是實話。”總參謀長堅持說。隨後政治局委員們都來了，經過審慎的討論和研究，斯大林才最後同意發出這樣一項命令：命令列寧格勒、波羅的海、西部、基輔和敖德薩各軍區的前線部隊，立即做好戰備，準備抗擊德國可能發動的突然襲擊，但時間已經晚了。
斯大林做了這樣的處理後，拖著疲憊的身子剛要在臥室的沙發上休息一下，突然有人敲門。敲門聲仿佛敲在他的心上，無比刺痛，一種不好的預感侵襲心頭。
任何時候都不曾有人這樣喚醒他，也許發生了最壞的事情，難道戰爭爆發了？斯大林勒緊睡衣走了出來，衛士長向他報告說，朱可夫有急事打來電話了。隨後，總參謀長在電話上向他報告了德軍空襲基輔明斯克等城市的情況。這一切表明，他最不願發生的事情——戰爭終於爆發了。時間是1941年6月22日淩晨4時。隻見他拿著聽筒沉沉地歎了口氣，然後粗聲粗氣地罵道：“希特勒這個大流氓！”
他終於明白了，事實證明他對戰爭的判斷錯了，而這一錯誤的代價卻是巨大的。