隨後，張郃命人切斷水源，掐斷糧道，開始放火燒山。可憐蜀軍饑渴難忍，軍心打亂，還沒用打就已經潰不成軍了。一些殘兵敗將四處逃散，張郃乘勝追擊，蜀軍大敗，街亭失守，兵力損失大半。
王平帶領一千人馬，穩守營盤。他得知馬謖失敗，就叫兵士拚命打鼓，裝出進攻的樣子。張郃懷疑蜀軍有埋伏，不敢逼近他們，王平整理好隊伍，不慌不忙地向後撤退，不但一千人馬一個也沒損失，還收容了不少馬謖手下的散兵。
由於馬謖的剛愎自用，失守街亭，戰局驟變，蜀軍失去了重要的據點，又喪失了不少人馬。諸葛亮為了避免遭受更大損失，決定把人馬全部撤退到了漢中。
回到漢中之後，諸葛亮總結了這次戰役失利的教訓，痛心疾首地說：“是我疏忽了，以為馬謖能夠把所學的知識靈活的用在實戰中，但是沒有，唉，用馬謖用錯了。”
為了嚴肅軍紀，諸葛亮立刻下令將馬謖革職入獄，斬首示眾。臨刑前的晚上，馬謖給諸葛亮寫了封信：“丞相對我像是自己的孩子，我一直對丞相也如父親般敬重。這次是我太過自信，沒有聽從丞相的話，違反了作戰部署，導致兵敗，造成了不可挽回的損失，軍令難容。丞相將我斬首，以誡後人，是我罪有應得。這一生能夠得到丞相的垂青，我死而無憾。隻是懇請丞相以後能夠幫我照顧一家妻兒老小，這樣我死後也就放心了。”
諸葛亮看完，淚流滿麵，卻沒有辦法，軍令狀是出兵前馬謖自己立下的，說出的話潑出去的水，誰也收不回來。如果若違背軍法，免他一死，將會失去眾人之心，以後說話就沒有分量了。但是要斬掉自己十分器重賞識的將領，還是很心疼的。左思右想，為了實現統一天下的宏願，他強忍悲痛，發下了命令，又當著眾軍的麵，把馬謖的兒子收為義子，讓馬謖放心。
馬謖被推出去斬了，諸葛亮拭幹眼淚，馬上宣布：對力主良謀，臨危不懼，英勇善戰，化險為夷的副將王平加以褒獎，提升為討寇將軍。
諸葛亮揮淚斬馬謖這件事情之後，軍隊上上下下無不為之動容，軍紀也比過去更加嚴明了。諸葛亮對將士們說：“這次出兵失敗，固然是因為馬謖違反軍令。可是我用人不當，也應該負責。”於是他上了一份奏章給劉禪，請求把官職降低三級。
由於諸葛亮賞罰分明，以身作則，蜀軍將士都很感動，大家把這次失敗當作教訓，士氣更加旺盛了。
這年冬天，諸葛亮又帶兵殺出散關，包圍了陳倉，殺了一個魏將；第二年春天，又出兵收複武都、陰平兩個郡。後主劉禪認為諸葛亮立了大功，下了一道詔書，恢複諸葛亮的丞相職位。
★ 心星點燈
1.賞罰分明，以身作則
諸葛亮是個善待人才的人，在他任蜀相時，以寬廣的胸懷，純正的心靈，選拔重用了一大批人才。他取士用人的標準是德才兼備，不講門第、資曆，破格用人，大膽地授以要職，委以重任。為了廣攬俊才，諸葛亮曾在成都南郊築招賢台，何祗原為蜀郡太守楊洪手下的一個書佐小吏，楊洪亦是犍為郡太守李嚴之功曹小吏，何、楊都先後被諸葛亮擢為太守與李嚴同列，因此事他被譽為“是以西士鹹服諸葛亮能盡時人之器也。”
在《前出師表》中，他從“親賢臣，遠小人”的原則出發，向後主鄭重推薦了董允、向寵等，其心之公明純正世所罕見。諸葛亮所重用的文武大員中，既有荊楚之士，又有蜀地人材，既有劉璋舊部，也有魏降將，無結黨之弊，大有“五湖四海”包容一切之襟懷，團結了絕大多數人。以至於在當時有這樣一句話：“凡是做過好事的，就算你和諸葛亮不認識，諸葛亮知道也一定會獎賞你；凡事做過壞事的，就算你和諸葛亮是親屬，諸葛亮也會懲罰你”。諸葛亮就是這樣嚴明執法，賞罰分明的。