馬超不期而至，率萬人襲擊，亂箭齊發，矢下如雨。但曹操仍然在胡床上不動，許褚見勢危，立刻扶曹操上船，船夫卻被流矢射殺，許褚左手舉著馬鞍做盾，為曹操擋箭，右手則拚命撐船，數次危急。駛了四五裏，馬超軍仍不斷追趕、射箭，大軍都不知曹操安危，十分擔心。這時渭南縣令丁斐命人放走牛馬，用以做誘餌吸引敵人，關西聯軍果然放棄追剿，趕緊追捕牛馬，曹操最後才成功渡河。各人見曹操平安無事，悲喜交集，曹操卻大笑：“今日幾為小賊所困乎！”
曹操率殘部與徐晃軍會合，沿河道向南行。聯軍至渭口防守，曹操便設置多隊疑兵，派另一部隊乘船渡過渭水，架起浮橋，於夜中在渭南結營。馬超等率兵攻打，被曹軍伏兵擊破。馬超等屯兵日久，派使向曹操要求以割讓河西為和約前提，但曹操不答應。九月，曹操渡過渭水，進駐渭南的營地，馬超等曾數次前往挑戰他，曹操又不應戰，隻守不攻。
渡過河後，曹操營寨多次被擅長野戰的西部聯軍衝破，苦於無法的時候，有人提醒曹操，此時天寒，可以擔沙潑水築城，曹操聽從了建議，果然一夜間築成了冰城。第二天聯軍到了以後，非常吃驚，以為有神靈在幫助曹操。
曹操與韓遂的父親在同一年被推薦為孝廉，又與韓遂是同輩，曾有交情。當二人會麵時，在馬上不談軍事，隻說當年在京都的舊事，拍手歡笑。曹軍又列出5000鐵騎布下十重陣，精光耀日，聯軍驚訝，紛紛前來看曹操是什麼人，曹操笑著對他們說：“你們都想看曹某吧！我也隻是一個普通人，不是有四隻眼兩個口，隻是較多智謀吧！”
會麵結束，馬超等問韓遂：“你和曹操說了什麼？”韓遂卻回答：“沒有什麼。”馬超等對韓遂的態度十分懷疑，擔心他與曹操私下聯係。過了幾天，曹操給韓遂書信，信中卻在行文上塗塗抹抹，改來改去，就像是韓遂改動的一樣。馬超等疑心愈來愈大，曹操便趁此時與聯軍約定決戰。曹操先以輕兵前往挑起聯軍的爭端，使聯軍混戰了很久，最後便出動王牌虎衛軍夾擊聯軍，聯軍大敗，曹軍斬殺了成宜、李堪等人。韓遂、馬超敗走涼州，楊秋則前往安定。潼關之戰至此結束。
曹操憑此戰將關中數個擁兵自重的軍團打敗，令他們不能聯合反抗，大大削弱了他們的勢力。後來，曹操進一步收降了楊秋，派夏侯淵鎮守長安，與徐晃、張郃等平定韓遂，雖然馬超仍然不斷聚集群眾起兵，但都被夏侯淵壓了下去，最後隻有逃到漢中的張魯帳下做客將。曹操在212年把早就軟禁在鄴城的馬騰一家殺害。
唐軍失潼關
天寶十四年（755年）十二月，洛陽失守之後，唐玄宗聽信宦官監軍邊令誠的讒言，殺大將封常清、高仙芝，起用病廢在家的隴右節度使哥舒翰為兵馬副元帥，令其率軍20萬，鎮守潼關。潼關地形險要，易守難攻。哥舒翰進駐潼關後，立即加固城防，深溝高壘，閉關固守。天寶十五年（756年）一月，安祿山命其子安慶緒率兵攻潼關，被哥舒翰擊退。安軍主力被阻於潼關數月，不能西進。安祿山見強攻不行，便命崔乾佑將老弱病殘的士卒屯於陝郡（今河南三門峽市西），而將精銳部隊隱蔽起來，想誘使哥舒翰棄險出戰。五月，唐玄宗接到叛將崔乾佑在陝郡“兵不滿4000，皆羸弱無備”的情報，就遣使令哥舒翰出兵收複陝洛。
哥舒翰立即上書玄宗，認為安祿山久習用兵，今起兵叛亂，不會不作準備，一定是用羸師弱卒來引誘，如若進兵，正好中計。況且叛軍遠來，利在速戰；官軍憑借潼關天險，利在堅守。故主張在潼關據險固守，以打破叛軍的速決企圖，待其兵力削弱，內部發生變亂時，再大舉反攻。郭子儀、李光弼也認為潼關隻宜堅守，不可輕出。主張引朔方軍北取範陽，覆叛軍巢穴，促使叛軍內部潰散。但是，宰相楊國忠卻懷疑哥舒翰意在謀己，便對唐玄宗說，哥舒翰按兵不動，會坐失良機。玄宗輕信讒言，便連續遣使催哥舒翰出戰。
哥舒翰迫於玄宗的壓力，加上高仙芝、封常清的前車之鑒，於六月初四領兵“慟哭出關”，駐紮在靈寶（今河南靈寶）西原。初七，在靈寶西原與崔乾佑部相遇。靈寶南麵靠山，北臨黃河，中間是一條狹窄山道。
崔乾佑預先把精兵埋伏在南麵山上，於初八領兵與唐軍決戰。唐軍以王思禮等率精兵5萬在前，龐忠等率l0萬大軍繼後，另派3萬人在黃河北岸高處擊鼓助攻。兩軍相交，唐軍見叛軍陣勢不整，偃旗欲逃，便長驅直進，結果被誘進隘路。叛軍伏兵突起，從山上投下檑木，唐軍士卒擁擠於隘道，難以躲避，死傷甚眾。哥舒翰急令戰車在前麵衝擊，企圖打開一條出路，但被叛軍用縱火焚燒的草車堵塞不得前進。唐軍被煙焰迷目，看不清目標，以為叛軍在濃煙中，便亂發弩箭，直到日落矢盡，才知中計。
這時，崔乾佑命精騎從南麵山穀迂回到唐軍背後殺出，唐軍前後受擊，亂成一團，有的棄甲逃入山穀，有的被擠入黃河淹死，絕望的號叫聲驚天駭地，一片慘狀。唐後軍見前軍大敗，不戰自潰。黃河北岸的唐軍見勢不利，也紛紛潰散。哥舒翰隻帶數百騎狼狽逃回潼關。潼關城外有三條塹壕，均寬二丈，深一丈，逃回的人馬墜落溝中，很快就將溝填滿，後麵的人踏著他們得以通過。唐軍將近20萬軍隊，經此一役，逃回潼關的隻有8000餘人。初九，崔乾佑攻占潼關，哥舒翰被部將挾持至洛陽，投降了安祿山。