1939年9月1日，德軍入侵波蘭，第二次世界大戰爆發。1941年6月，德軍向蘇聯發動了突然襲擊。僅三個月就推進到列寧格勒、莫斯科和羅斯托夫一線。形勢十分危險。這時，已升任副總參謀長兼作戰部長的華西列夫斯基，為穩定戰局進行了許多具體的組織計劃工作。1942年5月，他被任命為蘇軍總參謀長。當時，他正在西南方麵軍協助工作。最高統帥要求他至遲於7月4日返回大本營。剛剛就任總參謀長的華西列夫斯基，根據統帥部的意圖，主持總參謀部擬製了一係列重大戰役的計劃和方案，領導解決了各方麵軍作戰中的許多具體問題。7月23日，他作為大本營的代表來到對戰局起決定性作用的斯大林格勒方麵軍。為解除德軍對蘇第62集團軍合圍的威脅，他建議使用坦克第1和第4集團軍的剩餘兵力，對敵實施反突擊。這不僅打破了敵人的圍殲計劃，而且阻止了敵人一舉拿下斯大林格勒的企圖。隨後，他協調其他戰場，解決了一係列重大問題，保證了斯大林格勒會戰的勝利，顯示了他統率大軍的才能。
斯大林格勒會戰結束後，華西列夫斯基作為大本營派出的代表，先後協助各方麵軍領導進行了奧斯特羅戈日斯克——羅索什進攻戰役、庫爾斯克會戰、解放頓巴斯戰役、克裏木的作戰行動和白俄羅斯進攻戰役等。白俄羅斯戰役是蘇聯衛國戰爭中規模最大的進攻戰役之一。在戰役準備階段，華西列夫斯基根據斯大林的設想；一方麵詳盡審閱了被命名為“巴格拉季昂”的作戰計劃，另一方麵幫助大本營完成了各方麵軍的調動和集中，提出了他認為適合擔任新編組各方麵軍司令的人選，供最高統帥選擇。一切準備就緒之後，他又深入各部隊檢查戰役準備情況，實施最直接的戰役指揮。這次戰役，基本上殲滅了德軍中央集團軍群，解放了白俄羅斯全境，為以後的戰略進攻創造了條件。
1945年4月，華西列夫斯基受最高統帥之命，與總參謀部的人員一起擬製了遠東作戰計劃，並采取極嚴格的保密和偽裝措施，將三個方麵軍調到中蘇邊境的三個主要突擊方向上。7月，他被任命為遠東蘇軍總司令，指揮對日本關東軍作戰。8月8日，蘇聯政府對日宣戰。華西列夫斯基指揮150多萬蘇軍發起進攻，進入中國東北等地。僅僅10天，蘇軍就在三個作戰方向上分別挺進了200——800公裏，將日軍分割成許多孤立的集團。8月15日，日本宣布無條件投降。8月下旬，關東軍陸續被解除武裝。華西列夫斯基對這次戰役的指揮，再次顯示了他卓越的軍事才能。
戰後，他先後擔任總參謀長、武裝力量部部長、國防部第一副部長、國防部總監等職，為蘇聯武裝力量的建設作出了重大貢獻。1977年逝世。