當然冀城也撐不下去了。涼州刺史韋康派別駕閻溫出城，去長安向夏侯淵求救。閻溫是在夜間，從水中潛出城去。但還是被馬超的士兵發現並擒獲。馬超對閻溫道“你現在就去城下大叫，沒有救兵了。這樣我就放了你”閻溫假意答應。到了城下後，他喊出的卻是“大軍不出三日就到，諸位勉力守城”城中皆泣，高稱萬歲。馬超大怒，下令處死閻溫。
不過夏侯淵還是得到了消息，起兵來救。隻是冀縣卻先撐不住了。涼州刺史韋康及漢陽太守二人不聽楊阜的哭諫，開城投降。馬超入城後，將韋康及漢陽太守殺死。自稱征西將軍、並州牧、督涼州軍事。
此時，夏侯淵已率軍趕至離冀縣二百餘裏的地方，被馬超出兵擊敗。氐王楊千萬屯於漢陽郡的興國，又與馬超相應，夏侯淵無奈撤軍。
此時，楊阜之妻去世，楊阜向馬超求假，去老家歸葬妻子。路過曆城時，楊阜特意去見了屯兵於此、自己的外兄薑敘及其母親，悲不自勝。薑敘道“妻亡可以再娶，何必哭成這樣”楊阜道“我非為此而哭。守城不能完，主亡不能死。我有何麵目再見天下人？馬超背父叛君，虐殺州將，簡直大逆不道。兄擁兵於此，而無討賊之心，我實為此恨也”薑敘道“馬超勇悍過人，急切難圖啊”楊阜道“馬超強橫無義，並不難除”薑敘之母也慨然道“人誰不死？死於忠義，得其所也。你不用顧慮我。我早已將生死置之度外”薑敘最終決定討伐馬超。他聯絡了趙昂、尹奉、李俊等人，又派人去冀縣聯絡了梁寬、趙衢兩個內應。趙昂之子趙月在馬超帳下為人質，趙昂還在擔心自己兒子的安危，但他的妻子士異卻厲聲道“雪君父之大恥，何惜一子”
9月，楊阜、薑敘二人正式起兵，入鹵城。趙昂、尹奉則占據祁山，共同聲討馬超。馬超大怒，聽了趙衢的說辭，出兵與戰。等馬超一出城，趙衢、梁寬二人便下令緊閉冀縣城門，將城中馬超的妻兒盡皆殺死。馬超進退失據，率兵突襲曆城，將薑敘之母擒獲。薑母罵賊而死。趙月也被馬超所殺。
楊阜與馬超大戰，身被五創。但馬超終究寡不敵眾，兵敗之後逃往漢中，投奔張魯。張魯任命馬超為都講祭酒，並想將自己的女兒嫁給馬超。後來聽了部下的勸諫“此人不愛其親，焉能愛人”而止。
曹操追論討馬超之功，給11人封侯，封楊阜為關內侯。
9月，曹操下令建造金虎台。鑿渠引漳水入白溝。
10月，曹操下令分魏郡為東西部，設置都尉。11月，曹操下令在自己的封國內設置尚書、侍中、六卿等官職：尚書令荀攸；尚書仆射涼茂；五曹尚書毛玠、崔琰、常林、徐奕、何夔；侍中王粲、杜襲、衛覬、和洽；大理鍾繇；大司農王修；郎中令袁渙，行禦史大夫事；禦史中丞陳群。
本年，曹操想要恢複當年被漢文帝廢除的肉刑。可群臣之中隻有陳群、鍾繇二人讚同，其餘人皆以為不可。最後，曹操也因軍事未罷，下令此事不再提。
214年春天，馬超向張魯請兵，欲再取涼州，先圍攻祁山。薑敘向夏侯淵求救，諸將都說此事需先報告魏公，由曹操來決斷。夏侯淵說“此地離鄴城往返四千裏。若報，薑敘必敗”於是當機立斷，命張郃率5千步騎出擊，將馬超擊走。
接著夏侯淵出兵漢陽郡顯親縣，駐紮在那裏的韓遂一聽夏侯淵殺來，立即就走。夏侯淵向東直追至略陽城，距韓遂30餘裏。這時，諸將又向夏侯淵建議，有的說應先拿下韓遂，有的說應先去滅了興國的氐王楊千萬。夏侯淵卻說“韓遂兵精、興國城固。所以我們都不打，而是去打長離諸羌。韓遂部下很多都是長離羌兵，到時他一定會回救。這樣，我們便可打敗他了”夏侯淵命令留下輜重，自己率將輕騎突襲長離，火燒羌屯。韓遂得報後，果然發兵來救。