對這段曆史，後世學者和文人也極力渲染，留下了曆史上經典的一個鏡頭“諸葛亮揮淚斬馬謖”。
話說諸葛亮的北伐戰爭開始，突然襲擊祁山，守在祁山的魏軍抵擋不了，紛紛敗退。魏國朝廷文武官員聽到蜀漢大舉進攻，都嚇得沒了主意。剛剛即位的魏明帝曹睿還比較鎮靜，立刻派張邰帶領五萬人馬趕到祁山去抵抗。看到這個陣勢，諸葛亮決定派出一支人馬去占領街亭（今甘肅莊浪東南）作為作戰的據點。在派人時，諸葛亮沒有選派身邊的那些身經百戰的老將，如魏延、吳懿等，而是偏偏看中了參軍馬謖。委派馬謖為先鋒，王平做副將。
再說，馬謖和王平帶領人馬到了街亭，此時張邰率領魏軍也正從東麵殺過來。馬謖觀察了地形後，對副將王平說：“這一帶地形險要，街亭旁正好有座山，若在山上安營紮寨，布置埋伏，魏軍一來，我們居高臨下，定能一舉將他們擊破。”但王平提醒他說：“我們在出征前，丞相曾囑咐過，作戰要求穩，一定要當道紮寨、堅守城池、穩紮營壘。在山上紮營實在有點冒險。”但馬謖根本不聽王平的勸告，自恃熟讀兵法，堅持要在山上紮營。王平見馬謖一意孤行，無奈之下，就央求馬謖撥給他一千人馬，讓他在山下臨近的地方紮下軍營，彼此之間好有照應。過了一段時間，魏將張邰率領魏軍也趕到了街亭，看到馬謖在山上安營紮寨，卻放棄了山下現成的優勢位置，心中不禁暗暗高興，馬上吩咐手下將士，在山下築好營壘，把馬謖紮營的那座山團團包圍起來。
戰爭開始了，馬謖幾次命令兵士衝下山去，但由於張邰堅守住營壘，蜀軍沒法攻破，隻好一次次都被逼退了回來。接著魏軍又切斷了山上的水源，又沿著山放起了火，這下蜀軍可先亂了起來。就在此時，張邰看準時機，發起總攻。蜀軍兵士紛紛逃散，馬謖也控製不住戰爭的局勢了，最後，隻好自己棄軍逃跑，主帥一跑，下麵的兵士更是無心戀戰，也都四散奔逃。山下的王平帶領一千人馬，看到這個樣子，得知馬謖已經兵敗，立刻想出個解救的辦法，讓手下的兵士們拚命打鼓，裝出進攻的樣子，張邰懷疑蜀軍設有埋伏，不敢逼近他們。王平借此機會整理好隊伍，不慌不忙地向後撤退，不但一兵一卒都沒有損失，還收容了馬謖手下的敗退下來的不少散兵。
此次戰役，街亭失守，蜀軍不但失去了重要的據點，還在此次戰役中喪失了不少人馬。街亭一戰的失利，把諸葛亮的北伐大計給整個兒打亂了，蜀軍被迫無奈退回漢中，損失慘重。
諸葛亮回到漢中，經過詳細調查戰爭失利的情況，知道街亭失守完全是由於馬謖的剛愎自用，違反了他的作戰部署。馬謖也承認了他的過錯。因為馬謖在出征前曾立下了軍令狀，所以諸葛亮按照軍法，把馬謖投入監獄，定了死罪。這時軍中有許多人來為馬謖求情，勸說諸葛亮，此時正是蜀中用人之際，不要輕易殺掉主將。
諸葛亮也是左右為難，但是為了嚴肅軍紀，諸葛亮還是痛下狠心，揮淚斬馬謖。這段曆史還被後世的很多劇作家搬上了舞台。仔細分析，諸葛亮的這個“揮淚”也包含了很多的因素。其中既有對街亭這個戰略要地丟失的痛心，也有為即將殺掉馬謖這員愛將的痛惜，更多的也是對自己用人不當的追悔莫及。尤其是想到當初主公劉備曾經叮囑過自己在用馬謖時，一定要慎重，自己卻沒有聽從。所以說，諸葛亮的第一次北伐以失敗而告終，戰爭形勢的逆轉在於馬謖的剛愎自用，但諸葛亮在用人上暴露出來的問題也對此次北伐失利負有不可推卸的責任。戰後，諸葛亮反思失敗的原因，認為是自己用人不當，才造成失敗的結果，得出結論，作戰取勝的關鍵不在士兵數量的多寡，而將帥是否得力，即正確的指揮才是取勝的關鍵。因此，他做出重要決定，減兵省將，並承擔了這次失敗的罪責，上表成都，自貶三等。因此，在很長的一段時間，諸葛亮總結失敗的教訓，埋頭操練兵馬、研究戰術，計劃重整軍威，再伐曹魏。
同年十二月，諸葛亮得到消息說，魏軍曹休攻吳，被吳國的大都督陸遜大破於石亭（今安徽潛山縣東北），兵敗。張邰東下救援，關中虛弱。乘此時機，諸葛亮急忙率領數萬軍士進行第二次北伐，還沿著上次出兵的路線，出散關（今陝西寶雞市西南），圍攻陳倉（今寶雞市東）。不料遭到魏將郝昭的抵抗。這次的戰役打得非常激烈。史書上記載“諸葛亮先讓郝昭的同鄉靳詳來到陳倉城外勸郝昭投降，但遭到郝昭的嚴詞拒絕。接著，諸葛亮又根據敵對雙方的實力分析，判定自己擁兵數萬，而陳倉城內郝昭的軍隊才有數千人，而且估計魏國的援軍也不會很快到達，於是決定強攻。派趙雲架起雲梯和衝車即刻攻城。但是上麵早有準備的郝昭命人用火箭猛射蜀兵的雲梯，結果點燃了梯子，一時間梯毀人亡。又用繩子拴上巨大的石磨向下猛砸諸葛亮的衝車，很快，用於攻城的衝車都被砸折了。接著諸葛亮又命士兵擔來很多泥土填滿圍繞城牆的護城河，打算直接爬過城去，這個計劃又被郝昭發現了，他就命令士兵在城牆裏又砌起一座城牆。一計不成，諸葛亮又生一計，打算挖地道，鑽過去，郝昭發現後，在城裏也挖起地道，又一次阻截了諸葛亮的進攻。”雙方相持了有二十多天，蜀軍糧草沒有了，諸葛亮隻好退兵。