孝宗穆皇帝永和十二年（公元356年）
桓溫請移都洛陽，修複園陵，章十餘上，不許。拜溫征討大都督，督司、冀二州諸軍事，以討姚襄。
公元356年，桓溫第二次北伐。
在北方，鮮卑慕容氏和鮮卑段氏開打，在關中的氐族苻氏，權力交替，又遇上黑皮苻生做皇帝，內亂醞釀中，也消除了桓溫的側顧之憂。桓溫此次北伐的主要對手是羌族姚襄。
姚襄在中原頗結人心，“雖戰屢敗，民知襄所在，輒扶老攜幼，奔馳而赴之”，中原戰亂五十多年了，兩三代人了，老百姓已經不知道誰是正統了。
此戰桓溫勝，姚襄敗，姚襄西奔，和苻氐衝突，結果敗亡，弟弟姚萇率餘部投降氐人。五胡之中，羌族為弱，整個十六國時代具體到每個時間段，中國基本上還都是三國鼎立狀態，呈三大分裂板塊，南朝一塊，北方分為東西兩塊，最初是晉、漢、成，後來是晉、趙、燕，此時是晉、燕、秦，姚氏集團隻能作為棋子和籌碼影響局勢，直到姚萇後來建立後秦，才算是獨占一方。
桓溫此次北伐的戰略目標是收複洛陽，桓溫自稱是“開複中原，展敬山陵”。從字麵意義上講，“開複”比“恢複”、“收複”都添加了“開創性”的意義，中國政治是講究摳字眼的，桓溫自我期許甚高，誌向遠大，在江左一片因循守舊的氣氛裏，桓溫能銳意進取，用“恢複”形容之確實有些低估了桓溫的價值。
在進軍的路上，桓溫與僚屬登樓遙望中原，歎曰：“遂使神州陸沉，百年丘墟，王夷甫諸人不得不任其責！”王夷甫就是王衍同誌，是士族清談派代表。
秘書袁宏說：“運有興廢，豈必諸人之過。”袁宏列《晉書·文苑傳》，詩文了得，倚馬可待，他的態度可能代表了當時的主流看法，大家都認為國家興亡關乎運數，沒有人需要負責，也不必追究責任，或者說人人都有責，人人也都沒責，大家稀裏馬虎團結一致向前看就行了。在中國問責是件高難度的事情，最多最多找個替罪羊，而且罪羊一般都是小小個的。
桓溫聽完袁宏的話臉色驟變：“昔劉景升有千斤大牛，啖芻豆十倍於常牛，負重致遠，曾不若一羸牸，魏武入荊州，殺以享軍。”
飯桶當國，屍位素餐，千斤大牛何其多也，桓溫斯言沉痛，痛哉斯言！
桓溫大兵壓境，洛陽守將周成投降。和上次勒馬灞水瞭望長安不同，這次桓溫帶兵確確實實進了洛陽。桓溫恢複故都，拜謁諸陵，有毀壞者修複之，並置陵令保護之。古代講究孝治天下，桓溫“展敬山陵”，向蠻夷宣示主流價值觀，對內部反對北伐的人則是一記悶棍：閉嘴吧！
桓溫在北伐前後，一直上疏請求移都洛陽，但是朝廷不許。桓溫都督天下諸軍事，但他一直避免回到建康任職，長期停駐上遊，遂使東晉有兩個首都，一個“軍事首都”和一個“行政首都”。
此時穆帝司馬聃隻有十三四歲，尚未親政，這一階段東晉朝廷到底是怎麼運作的？誰在審閱桓溫以及其他地方官的上疏？誰在替小皇帝批複？Yes or No是誰拍板？建康朝廷疑似處於一種“委員會”狀態，外戚褚裒為人也不強勢，他和王謝等士族代表，共同處理日常事務。這一階段，史書都用“朝廷”籠統言之。這種權力平衡模式，在中國曆史上屬於非典型模式，極為罕見。大士族的存在，削弱了皇權也維係了皇權，包括對桓溫這樣的軍事強人也有了相當的製約效果。
到桓溫恢複洛陽，東晉在江南立國已經四十年了，當初跟隨司馬睿東渡的大士族已經是家大業大，習慣了江南的氣候和安逸的生活，正是：
一流士族享清閑，二流士族抓軍權。
北望神州陸沉處，隻剩銅駝和陵園。
桓溫遷都的想法沒有人響應，他隻好留下守城將士。在洛陽期間，桓溫得到了劉琨的一名家伎，她見到桓溫便潸然而泣。桓溫問其故，她答道：“公甚似劉司空。”桓溫大悅，劉琨是著名帥哥，桓溫頗為自戀，也一直以為自己和劉琨風采風度相仿佛，於是趕緊整理衣冠，讓這位見證人細細品鑒。這位也不客氣，鑒定如下：“麵甚似，恨薄；眼甚似，恨小；須甚似，恨赤；形甚似，恨短；聲甚似，恨雌。”
桓溫聽罷，把帽子一甩，衣帶一解，倒頭昏然而睡，不怡者數日。
桓溫是個性情中人，“自以雄姿風氣是宣帝、劉琨之儔，有以其比王敦者，意甚不平”。好不容易有人稱他有似劉琨，結果樣樣差了那麼少許，嗬嗬。