1941年11月，德國南方集團軍群企圖經羅斯托夫向北高加索實施突擊，對羅斯托夫威脅最大的是其第1裝甲集團軍。為解除威脅並阻止德軍突向北高加索，鐵木辛哥主張用所轄的南方方麵軍發動進攻戰役以殲滅羅斯托夫方向的德軍，得到最高統帥部批準。然而，11月5日，德國第1裝甲集團軍率先向羅斯托夫發動進攻，德國第17集團軍一部和意大利軍則向伏羅希洛夫格勒發動進攻以牽製南方方麵軍。鐵木辛哥被迫實施頑強的防禦作戰，並在防禦過程中完成進攻戰役的準備。11月17日，指揮南方方麵軍4個集團軍（其中1個集團軍對付伏羅希洛夫格勒方向）和第56獨立集團軍開始進攻。同日，德國第1裝甲集團軍全力向羅斯托夫突擊，蘇軍因氣候原因而無法得到空軍支援，坦克數量又不足，德軍得以憑借坦克優勢在21日攻入羅斯托夫。11月27日，南方方麵軍向進入羅斯托夫的德國第1裝甲集團軍猛烈進攻。兩天以後，該集團軍的精銳師團被消滅，殘部不顧希特勒的禁令而倉皇潰退。此役不僅粉碎了德軍突向北高加索的企圖，而且牽製了南方集團軍群的兵力，從而減輕了莫斯科方向蘇軍的壓力。
1942年春，鐵木辛哥繼續指揮西南方麵軍和南方方麵軍在西南戰略方向作戰，解放重要鐵路樞紐洛佐瓦亞車站，牽製了南方集團軍群的作戰行動。5月12日，鐵木辛哥為圍殲德國第6集團軍，解放哈爾科夫，指揮西南方麵軍和南方方麵軍實施哈爾科夫進攻戰役，突破了敵防禦。得到克萊斯特裝甲集群增援的德軍稍後也向蘇軍發起進攻。由於戰役形勢判斷錯誤、缺乏周密的協同動作、作戰指揮失誤和西南方麵軍多為新兵，蘇軍在5月12日結束的戰役中失利，被迫再次轉入防禦。
1942年6月，西南方向總指揮部撤銷。7月，鐵木辛哥出任斯大林格勒方麵軍（由西南方麵軍擴編而成）司令，參加斯大林格勒保衛戰。10月，調任西北方麵軍司令。次年2月，組織指揮西北方麵軍以突擊之勢摧毀德軍傑米揚斯克登陸場，使敵無法利用北方集團軍群加強蘇德戰場南翼。
從1943年3月起，鐵木辛哥多次以最高統帥部代表身份協調諸方麵軍的作戰行動，參與組織和實施許多重大戰役。1943年3月至6月協調列寧格勒方麵軍和沃爾霍夫方麵軍的作戰行動，6月至11月協調北高加索方麵軍和黑海艦隊的作戰行動。1944年2月至6月協調第1波羅的海沿岸方麵軍和第2波羅的海沿岸方麵軍的作戰行動，1944年8月至戰爭結束協調第2烏克蘭方麵軍、第3烏克蘭方麵軍和第4烏克蘭方麵軍的作戰行動。
在1944年8月的雅西—基什尼奧夫戰役中，鐵木辛哥負責協調第2烏克蘭方麵軍和第3烏克蘭方麵軍的作戰行動。蘇軍有125萬人、1.6萬門大炮和迫擊炮、1870輛坦克和自行火炮、2200架飛機參戰，在實施合圍戰役同時又在複雜山林戰區條件下對敵防禦正麵實施迅猛進攻，完全擊潰德國南烏克蘭集團軍群，消滅22個德國師，幾乎擊潰全部羅馬尼亞師，導致蘇德戰場南翼德軍防禦的崩潰和摩爾達維亞的解放，迫使羅馬尼亞退出軸心國集團。
戰後，鐵木辛哥曆任巴拉諾維奇軍區司令、南烏拉爾軍區司令、白俄羅斯軍區司令、國防部總監組總監、蘇聯老戰士委員會主席等職。鐵木辛哥曾長期擔任蘇共中央委員和蘇聯最高蘇維埃代表。鐵木辛哥共獲得兩次“蘇聯英雄”稱號和許多勳章或獎章。著有《偉大的功績》和《由莫斯科向南挺進》。
1970年3月31日，鐵木辛哥在莫斯科逝世。