他與蜀軍避戰對峙百餘日後，諸葛亮於八月病死。蜀將楊儀等整軍而退，百姓奔告司馬懿，司馬懿忙率軍追擊。薑維讓楊儀返旗鳴鼓，作出要反擊的樣子。司馬懿懷疑諸葛亮死訊不實，不敢貿然再追，下令退兵。楊儀得以從容退去，至安全地帶後才發喪。蜀軍退走後，魏軍才放膽而來，檢查蜀軍營壘，見糧穀、軍事文件、圖書棄置狼藉，斷定諸葛公真死，蜀軍之退並非誘敵之計，這才下令急追。但蜀軍在道上布有很多蒺藜，難以通過。司馬懿想出一條妙策，他命兩千士兵穿著軟材平底木屐走在前麵，蒺藜盡被木屐沾去。後麵的騎兵步兵順利通過。一直追到赤岸，才得知諸葛亮死去的準訊。百姓用諺語譏笑司馬懿說：“死諸葛嚇走生仲達”。司馬懿聽到後，自我解嘲說：“吾能料生，不便料死也！”他對自己的對手深為欽佩，稱讚他為“天下奇才”。事實上，魏國如果沒有老謀深算的司馬懿作統帥，要抵禦諸葛亮的十萬大軍是十分困難的。
遠征平公孫
魏明帝曹睿即位之初，繼任遼東太守的公孫淵向孫權稱臣。孫權急功好利，派使臣張彌、許晏帶領兩萬士兵到遼東，想將遠在外關的遼東土地，歸入江南水鄉澤國的吳國版圖。公孫淵出爾反爾，殺了孫權的使臣並收編其士兵，又去歸順曹魏。
到了公元二三七年，公孫淵因對曹魏不滿，就自立為燕王，建號紹漢，獨立於魏、蜀、吳之外，同曹魏分庭抗禮。
曹睿如何容得公孫淵如此囂張，他派大將司馬懿領兵四萬前往遼東討伐公孫淵。臨出發時，曹睿曾同司馬懿談了一次作戰方案以及敵我雙方攻防等方麵的謀略，司馬懿談得頭頭是道，曹睿聽了非常高興，問道：“愛卿此次出征需要多少時間？”
司馬懿說：“遼東路遠迢迢四千餘裏，前往一百天，作戰一百天，返回一百天，休息六十天，一年時間夠了。”他連時間都算得那麼精確，似乎勝券在握了。
司馬懿率領大軍渡過黃河，穿越華北平原，於當年六月進軍到遼東。公孫淵得到消息，即令大將卑衍、楊祚率主力精兵數萬屯兵於遼隧（今遼寧海城北），並構成了二十多裏的長壕堅守，擋曹軍於國門之外。
司馬懿是個堅守不戰的行家，現在公孫淵“以其人之道還諸其身”，這一著果然厲害，魏軍將領因司馬懿已提出作戰一百天的期限，怕久拖不利，紛紛要求出戰。
司馬懿何等精明，他多次與諸葛亮作戰，都能保持“金剛不敗之身”。饒你諸葛亮有天大本事，也要被糧草有濟所困擾，隻能全身而退，即使揀點小便宜，如降服一個將領（如薑維），斬殺某個大將（如張郃），最後還是耗費軍力物資，吃了大虧，公孫淵狂妄有餘，智謀不足，哪是司馬懿的敵手？一切都在司馬懿的算計之中。
司馬懿不與公孫淵的主力糾纏，卻繞道去攻公孫淵的老巢襄平（當時的遼東郡治所，今遼陽市北），並在途中設下伏兵，攻擊回援襄平的遼東兵馬。
公孫淵果然被司馬懿牽著鼻子走，他怕襄平有失，忙令大軍撤回，在途中遇到伏擊，魏將夏侯霸將遼東大將卑衍斬於馬下。公孫淵退入襄平，陷於魏軍的包圍之中。
正當魏軍準備攻打襄平城時，突然天降大雨，終日不停，遼河猛漲，洪水泛濫，攻城魏軍陷入洪水的包圍之中。不要說打仗，連生活都成了問題，有的將領提出要移營，司馬懿怕移營出現不穩的被動局麵，就不準移營；有的將領又提出冒雨進攻，司馬懿怕冒雨進攻，得不償失，不準進攻。
既不移營，又不進攻，司馬懿是在與公孫淵比毅力、比耐心。他認為，天下大雨，是偶然因素，總有天晴的時候，那時形勢就會逆轉；再則，襄平雖被包圍，但包圍圈尚未合攏，趁雨天公孫淵不會主動出擊，將包圍圈合攏，再說公孫淵現正洋洋得意，認為天公作美，幫他大忙，決不會逃跑，這就有利於把他們就地殲滅。
雨過天晴，司馬懿向襄平發起強攻。他築土山，居高臨下，向城內射箭；在地麵用衝車撞城；在地下挖地道進攻。公孫淵好景不長，他抵擋不住司馬懿的猛烈進攻，想逃跑，為時已晚，襄平被圍得像鐵桶似的。在關鍵時刻，他屬下大將楊祚又率部投降，他無計可施，派相國王建和禦史大夫到魏營求和，提出：“魏軍後撤解圍，公孫淵率領朝廷大臣們自縛投降。”
司馬懿不是孫權，豈會上他詐降的當？再說司馬懿誌在消滅公孫淵的勢力，哪肯後撤解圍，當即將兩個使臣殺了。公孫淵又派出使者到魏營求和，以兒子作人質送到魏營，要求魏軍“後撤解圍”。司馬懿對來使說：“軍事行動有五個步驟，能戰就戰，不能戰就守，不能守就退，這三步做不到，就隻能投降和送死兩條路了。公孫淵如今不肯自縛來降，還喋喋不休提出議和條件，你回去告訴他，他的兒子不必送來了，就讓他等著送死吧！”
不久，魏軍攻陷襄平，公孫淵和兒子公孫修率領數萬騎兵向東南逃跑，司馬懿揮馬追擊，在梁水上遊，徹底打敗了公孫淵的逃兵，臨陣斬殺了公孫淵父子，並乘勝平定了遼東、帶方、樂浪、玄菟四郡，把遼東重新納入了曹魏的版圖。