波蘭投降後，古德裏安又轉戰西線。他所在的19軍屬倫德施泰特指揮的“A”集團軍群。1940年5月，該軍作為在色當地區的攻擊主力，從法軍防線上打開一個缺口，5月13日就渡過馬斯河。一天之後，古德裏安坦克軍在色當以西和以南擴大了橋頭陣地，並擊退了法軍第三裝甲師的多次反擊。當時在他看來，隻有兩件事可以阻止裝甲部隊的前進，即汽油耗盡和到達英吉利海峽。但是，德國最高統帥部包括希特勒在內都對裝甲部隊高速進攻獲得的巨大戰果感到驚疑，為防止法軍發動翼側反擊，急令各坦克部隊停止前進。對前線情況了如指掌的古德裏安及一些前線指揮官們認為，這無異於放棄奇襲，會喪失一切初步戰果。於是他們據理力爭，終於獲準作進一步的“強力偵察”，“擴大橋頭陣地”。古德裏安對這項命令加以靈活解釋，率領部隊沿索姆河一線神速前進。5月18日到達聖康坦，19日強渡索姆河，20日其前衛抵達阿布維爾和英吉利海峽，接著又由阿布維爾向北推進，22日占領布倫。6月初，古德裏安被任命為第二集團軍司令，率領所部又取得了一連串的重大勝利。古德裏安和他的坦克兵拖著德國陸軍前進，創造了現代史上空前的勝利。
1941年6月28日，德國發動侵蘇戰爭，古德裏安指揮的裝甲兵團屬中央集團軍群，擔負了向莫斯科方向突擊的任務。戰爭初期，他們節節獲勝，10月份，曾攻到距莫斯科幾十公裏的地方。但到12月初，由於冬季的來臨、蘇軍的英勇抵抗和德軍戰略目標分散等各種原因，進攻莫斯科之戰以失敗告終。12月6日，古德裏安被撤職，編入預備役，過了一年多閑散生活。1943年2月，希特勒在斯大林格勒遭到慘敗之後；又重新起用古德裏安，任命他為坦克兵總監，讓其負責裝甲部隊的發展、組織和訓練。在他任職期間，德國著名的虎式和豹式坦克投入生產並裝備部隊。
1944年7月，謀殺希特勒的事件敗露後，與此事無關的古德裏安出任德國陸軍總參謀長。但這時德軍的失敗已成定局，第三帝國大廈將傾，已是獨木難支。1945年3月底，希特勒免去了古德裏安總參謀長的職務，再次將其貶入預備役。5月10日，古德裏安被美軍俘虜。不久獲釋。
1954年，古德裏安病逝。這位坦克戰專家雖然到底沒有擠進元帥的行列，但他為法西斯德國稱雄一時所起的作用以及所負盛名，並不亞於納粹德國26位元帥中的任何人。他的肖像至今仍掛在德國的裝甲兵軍營中。