部署完畢，諸葛亮自己身披鶴氅，頭戴華陽巾，手拿鵝毛扇，引二小童攜琴一張，來到城樓上憑欄而坐，然後命人焚香操琴。司馬懿前鋒部隊追到城下，卻不見城內一點動靜，隻見諸葛亮在城樓上彈琴賞景，感到莫名其妙，不知諸葛亮葫蘆裏賣的什麼藥，不敢貿然前進，便暫停下來，急速報與司馬懿。大將軍司馬懿以為這是謊報，便命令三軍原地休息，自己則騎馬飛馳而來，要看個究竟。
果然，諸葛亮坐於城樓之上，笑容可掬，焚香操琴，悠閑自在，根本沒有什麼恐懼和驚慌的表情，又見他左有一童手捧寶劍，右有一童手執塵尾，就像平常在自家裏一樣。再看城內外有二十多名百姓，正低頭灑掃，不緊不慢，旁若無人，沒有戰鬥的氣氛。司馬懿看後，倒吸一口涼氣，覺得城內肯定埋有重兵，諸葛亮坐在城頭是便於指揮，如若攻伐，說不定就會中諸葛亮的計謀了。於是他傳令退兵而去。
街亭失守，打破了諸葛亮的部署。使蜀軍失去了進攻的據點。諸葛亮見取勝無望，便帶兵及千餘家百姓，撤回漢中。
諸葛亮對街亭失守十分痛心，追查責任，首先是馬謖違背部署，造成致命的錯誤。諸葛亮便依法處死了馬謖。馬謾被處死後，諸葛亮親自設祭，想起與馬謖多年的情誼，不禁熱淚盈眶，蜀軍將士也被感動得個個流淚。諸葛亮認為王平在街亭曾經勸阻過馬謖，在退兵的時候，又用計保全了人馬，立了功，應該受獎勵，就把王平提拔為參軍，讓他統率五部兵馬。
接著，諸葛亮又上書劉禪，自請處分。劉禪接到奏章，不知該怎麼辦才好。有個大臣說：“既然丞相有這個意見，就依著他吧。”劉禪就下詔把諸葛亮降級為右將軍，代理丞相職務。
以後諸葛亮又曾兩次率軍伐魏，蜀軍都取得了局部勝利。後主劉禪認為諸葛亮立了新功，便下詔恢複諸葛亮丞相職務。
公元229年，孫權正式稱帝，派使臣到成都，建議和蜀漢互尊為皇帝。劉禪同意了諸葛亮以大局為重的主張，派使臣到東吳，向孫權祝賀，並訂立了新的盟約，約定互不侵犯，在滅魏之後平分曹魏之地。
公元234年，諸葛亮作好充分準備，率十萬大軍發動了他生平中最後一次北伐。他派使者到東吳，約孫權同時發起攻勢，東西配合，使魏國兩麵受敵。四月，諸葛亮出斜穀口，到了渭水南岸的五丈原，與司馬懿相持於渭水之南。為了作長期打算，他派一部分兵士構築營壘，準備作戰；另派一部分兵士在五丈原屯田，跟當地老百姓夾雜在一起耕種。蜀軍紀律嚴明，百姓和兵士相處得很好。
在獲勝數陣之後，諸葛亮在上方穀設下埋伏，“造成木柵，營中掘下深塹，多積幹柴引火之物；周圍山上，多用柴草虛搭窩鋪，內外皆伏地雷。”用奇計將司馬懿的軍馬誘入穀中，一聲炮響，山上一齊丟下火把來，燒斷穀口，山上火箭射下，地雷一齊突出，草房內幹柴一起著火，火勢衝天。魏兵死傷無數，司馬氏三父子奔突無路，以為此番定死無疑，抱頭痛哭。後來因火勢過大，加上當地地勢有利於局部天氣的形成，突然天降驟雨，司馬懿才免於一死。見此情景，諸葛亮不禁長歎一聲：“天不佑蜀！”至此，司馬懿掛出免戰牌，堅守不出。
這時東吳軍隊傳來消息，原來東吳軍隊因久攻合肥不下，損兵折將，於是撤退回國，隻留下蜀漢孤軍作戰。諸葛亮心中焦急，百般挑戰，司馬懿隻是不理。於是諸葛亮派人送了婦人衣服給司馬懿，並附信一封說：“你身為大將，統領曹魏大軍，卻不敢率軍出戰，一決雌雄，這與女人有何區別？我現在送來巾幗素衣，你如果知羞恥，還有點男子漢氣概，就在我給你的信上批上字，約定時間決戰；如果膽怯不敢出戰，就把女人的頭巾和素服收下。”司馬懿看罷來信，心中大怒，但臉上仍然露著笑容說：“孔明把我當作女人了。”說完讓收下所送之物，而且款待來使，表現得若無其事。
魏軍大將見諸葛亮以巾幗女衣羞辱司馬懿，不由大怒，紛紛要求與蜀兵決一雌雄。司馬懿還是不為所動。諸葛亮料到司馬懿的心理，司馬懿也在探聽諸葛亮的情況。有一次，諸葛亮派使者到魏營去挑戰，司馬懿挺有禮貌地接待使者，跟使者聊天，說：“你們丞相公事一定很忙吧。近來身體可好？胃口怎麼樣？”
使者覺得司馬懿問的都是些客套話，也就老實回答說：“丞相的確很忙，軍營裏大小事情都要親自抓。他起得早，睡得很晚。隻是近來胃口不好，吃得很少。”使者走了以後，司馬懿就跟左右將士說：“你們看，諸葛孔明吃得少，事務又那麼繁重，能支撐得長久嗎？”不出司馬懿所料，諸葛亮見司馬懿深溝高壘不出戰，自己進不能戰，退不甘心，英雄無用武之地，不禁鬱悶致病，積勞成疾。
後主劉禪得到諸葛亮生病的消息，趕快派大臣李福到五丈原來慰問。他看到諸葛亮病勢漸重，哭了起來。諸葛亮睜開眼睛，對李福說：“我懂得您想問些什麼。您所要問的人，我看就是蔣琬吧。”
李福說：“丞相說的是。皇上正要我問丞相萬一身子不好，由誰來繼任您的工作。那蔣琬之後，誰可以繼任呢？”
諸葛亮說：“可以由費諱接替。”
李福還想再問下去，諸葛亮閉上眼睛不回答了。幾天後，諸葛亮終於去世，享年54歲。蜀漢各路人馬按照諸葛亮生前囑咐，有秩序地撤退。司馬懿得知諸葛亮已死，蜀軍撤退的消息後，立即率軍追趕上去，剛過五丈原，就遭到蜀軍的埋伏。司馬懿大吃一驚，趕快拔轉馬頭，下令撤退。後來民間有笑話說：“死諸葛嚇走了活仲達(司馬懿的字)！”