當時，隗囂占據天水，自稱西州大將軍，對馬援非常器重，任命他為綏德將軍，平時與他“共臥起”，遇事也一同商量對策。然而，馬援投奔隗囂亦隻是一個權宜之策。他知道隗囂是個“自狹奸心，盜憎主人”的小人，因而並沒有長久輔佐隗囂的打算。他在動亂之中觀望尋求，渴望能夠找到一個英明君主，以貢獻自己的雄才偉略。公孫述據蜀稱帝，隗囂決定去跟從，派馬援去探聽虛實。馬援與公孫述本為同鄉，且交情很好。誰知公孫述卻擺出一副十足的皇帝架子來接待他，馬援認為他成不了大事。回隴後，他把自己的想法告訴了隗囂。
建武四年（28）冬天，隗囂欲歸附劉秀。於是派馬援持書信到洛陽接洽，劉秀聽說“騰聲三輔，遨遊二帝”的馬援來到洛陽，遂便服簡從，熱情接見他。劉秀笑著對馬援說：“您在兩個皇帝間轉來轉去，今天見到您，真是慚愧！”馬援行禮後，接著劉秀的話題說：“如今這時代，不但君主選擇臣子，臣子也在選擇君主。我到公孫述那裏，他盛陳衛士，警蹕森嚴。如今我遠道而來，您怎敢肯定我不是刺客奸人，就如此隨便地接見我呢？”劉秀聽了笑道：“你不是刺客，倒像個說客。”馬援說：“天下翻覆無常，盜名欺世者數不勝數。如今我見到了您，發現您恢弘大度，跟當年高祖一樣，這才知道世上自有真的帝王啊！”兩個人大有相見恨晚之感。
劉秀對馬援一見如故，非常信任。於是帶著他西巡黎丘，東遊東海，優禮有嘉。馬援要回西州，劉秀派太中大夫來歙持節去送他。
馬援回隴後，隗囂問及洛陽和劉秀情況時，馬援盛讚劉秀，隗囂同意歸漢，並派長子隗恂到洛陽去做人質，馬援也就帶領家屬一起到了洛陽。馬援到洛陽後，因無實際職務，他發現三輔地區土地肥沃，原野寬廣，而自己帶來的賓客又不少，於是便上書給光武帝，請求率領賓客到上林苑去屯田，光武帝答應了他的請求。
聚米為山獻策平隴
建武六年（30），隗囂聽信了部將王元的挑撥，想占據隴西，稱王稱霸，因而對東漢存有二心，處事狐疑。馬援聽說此事，多次寫信勸阻隗囂。隗囂不僅不聽勸阻，反倒誤會馬援，認為他背離自己，以致後來竟然起兵抗拒漢朝。
於是，馬援上書給光武帝劉秀，表明自己的心跡，信裏說：“我歸身聖朝，奉事陛下，沒有經人推薦，沒人為我表功。所以，有些話，我不說，您就聽不到了。我和隗囂本來是互相信賴的朋友。當年隗囂派我東來，對我說：‘本想歸附漢室，你先去看看，你認為行，我們就專心歸附漢室。’等我返回西川，真誠地向他通報了情況，實在是想引導他向善，不敢有一點欺騙他的地方。想不到他心懷叵測，怨憎主人，致使怨毒之情盡歸於我。”信中還表示希望麵見皇帝力陳各種計策，以幫助漢室掃除隗囂的叛亂。
光武帝覽信後，當即召見馬援。馬援細述了對付隗囂的辦法。光武帝便派5000騎兵給馬援，讓他率領遊說隗囂的親信和北麵羌族，使他們脫離隗囂，同時伺機配合主力作戰。
馬援還寫信給隗囂之將楊廣，向他陳說利害，希望他能歸附漢朝，並希望他能勸諫隗囂，懸崖勒馬。信寫得言詞懇切，合情入理。然而楊廣卻沒有回音，隗囂依然一意孤行。
建武八年（32），光武帝劉秀親自統大軍征討隗囂。軍隊到了漆縣（今陝西彬縣），不少將領認為勝負難卜，不宜深入，光武帝也猶豫不定，遂夜召馬援問計。馬援認為隗囂的將領已有分崩離析之勢，如果乘機進攻，定可大獲全勝。他命人取些米來，當下在光武帝麵前堆成山穀溝壑等地形地物，然後指點山川形勢。標示各路部隊進退往來的道路，其中曲折深隱無不畢現，對戰局的分析也透徹明白。光武帝一看，恍然大悟，遂決意進軍。
第二天，光武帝依照馬援的謀略進軍高平第一城（今寧夏固原）。隗囂部大敗，部眾潰散。
安邊定羌忠勤國事
建武九年（33），朝廷任命馬援為太中大夫，協助大將來歙平定涼州。馬援終於以其傑出的膽識和出色的軍事才幹，博得了漢武帝的信賴，躋身於東漢開國名將之列。後來塞外的西羌派兵襲掠邊塞，搶奪財物，給安定多年的邊郡人民帶來了沉重的苦難。光武帝決定再次組織漢軍進行反擊。這時大將來歙推薦了馬援並說：除馬援，誰也平息不了。於是，光武帝任命馬援為隴西郡郡守，令其率兵擊羌。