代國複興之年，中原的局勢起了翻天覆地的變化。衰亡的秦國垂死掙紮，鄴城的苻丕迫於東晉和後燕強大的軍事壓力，與謝玄媾和。秦晉兩國聯兵對付慕容垂，謝玄派劉牢之率北府前鋒趕到鄴城，大敗後燕軍，慕容垂固守新城不出。郭茂倩《樂府詩集·鼓角橫吹曲》中的《慕容垂歌辭》生動的再現了晉、秦、燕三國新城之戰的場景：
慕容攀牆視，吳軍無邊岸。我身分自當，枉殺牆外漢。
慕容愁憤憤，燒香作佛會。願作牆裏燕，高飛出牆外。
慕容出牆望，吳軍無邊岸。咄我臣諸佐，此事可惋歎。
歌辭醜化慕容垂的形象，應該為氐人所作，歌中的慕容指燕王慕容垂，吳軍指北府兵，老謀深算的慕容垂會就此束手嗎？別忘記他生平未經一敗，桓溫挫敗於此人之手，橫行洛澗、發彪淝水的劉牢之能改變曆史嗎？
戰事是這樣發展下去的：慕容垂自新城北遁，劉牢之根本沒有向苻丕通報，帶領晉軍狂追而去。苻丕聽說以後，趕緊尾隨進兵。劉牢之在董唐淵追上後燕軍，後燕多騎兵，晉軍多步兵，劉牢之長驅步卒二百裏爭利，太過輕敵。慕容在五橋澤設下伏兵，散亂輜重誘敵，用騎兵衝擊，大敗晉軍，劉牢之丟盔棄甲而還，洛澗英名從此喪盡，晉軍北伐再度受阻河北，受阻慕容垂，可惜！可歎！
東晉朝廷出現內亂，晉孝武帝的弟弟琅琊王司馬道子與謝安爭權，謝安用三國薑維避禍遝中之計，以北伐為名，出鎮廣陵步丘築新城壘避禍，不久病重。渡江回建康，入石頭城，過西州門，悵然對左右道：“我本意自海道轉江道回京，可惜本誌不遂，這是天意啊。昔年桓溫在時，我常懼不能自全，一夜，忽夢乘坐桓溫之輿，車行十六裏，見一白雞而止。如今想起來，乘桓溫輿者，代其位也。十六裏，止今十六年矣。白雞主酉，今太歲在酉，我的病不會好了！”
回京不日，謝安死去，時年六十六歲。
風流總被雨打風吹去，謝安一代名士，談笑間情雄桓溫推枕無奈，弈棋中百萬敵虜風聲鶴唳。雖受朝廷重任，然東山之誌始終不渝，每形於言色。北征之時，預備了渡海的行裝，隻等北伐大功告成，從海蹤隱歸東山。可惜雅誌未就，天下事何能盡心如意，“生存華屋處，零落歸山丘。先民誰不死，知命複何憂。”
謝安病重時，晉軍與前秦軍為爭奪鄴城發生衝突，反目成仇，鄴城重新被苻丕攻占。謝安一死，東晉朝廷即刻詔令謝玄退兵淮陰，拜朱序為豫州刺史，鎮守壽陽，晉軍由戰略進攻轉為戰略防禦，黃河北麵隻留將軍滕恬之守衛黎陽。晉廷的戰略意圖比較明顯，希望與前秦和後燕劃黃河而治，謝玄上表朝廷，希望讓朱序駐守洛陽地區，自己率大軍駐紮彭城，進可攻，退可守。
謝玄的軍事方案絕對可取，大軍在彭城既可支援黃河防線，又可支援洛陽，晉廷不準。顯而易見，晉孝武帝對謝家起了猜忌之心，不希望謝玄繼續手握重兵，作為謝家的“芝蘭玉樹”，謝玄對皇帝的心思看得剔透，心生憂鬱。
晉廷的軍事部署暴露出它的弱點，淮陰和壽陽兩大軍事重鎮與北境相隔過遠，爆發軍事衝突後難以救援。丁零人內亂，翟真被殺，慕容垂趁機奪取行唐，坑殺無數丁零人，翟真的兒子翟遼逃到黎陽假意投降晉國，尋個機會殺死守將滕恬之，建立丁零人的五朝魏國，史稱翟魏。
晉朝北境騷動，謝玄上疏朝廷，送還指揮軍隊的節鉞，請求朝廷解除自己的軍權職務。孝武帝不準，派朱序接替他指揮軍隊，讓謝玄依舊鎮守淮陰，謝玄憂鬱成疾，再次上書請求解職，詔書不許。謝玄第三次上表，詔命仍舊不準，但讓他移鎮東陽城（在今安徽天長市西北）。孝武帝以為他有怨言，將才還是要用的，不過不讓你有過多的軍權罷了，撂挑子可不成。
謝玄在移鎮東陽城的路上病重，再次上表，寫了一封誠至感人的表章，這回孝武帝意識到謝玄真病了，差名醫探視，讓謝玄回京口休養。在京口期間，謝玄累上表章十餘次，請回會稽老家，朝廷壓了好長時間，才同意他回家鄉。
公元388年，謝玄病逝，時年四十六歲，“赤壁磯頭落照，淝水橋邊衰草，渺渺喚人愁”。謝玄雖然死了，但他萬馬軍中從容自若揮毫潑墨的儒雅風姿，與三國英雄赤壁周郎一道永遠留在中華民族的記憶中被千古傳誦。
東晉主動防禦退出河北爭奪戰給慕容垂大展拳腳的機會，他派慕容麟、慕容溫攻掠河北北部，派慕容農出塞收複故都龍城。慕容麟平定中山、博陵諸城，慕容農打敗高句麗，重新將遼東納入後燕版圖。大勢已去，苻丕隻得棄守孤城鄴城，西歸長安，進入山西境內，才得到天王苻堅死訊，苻丕在晉陽稱帝。