謝安平日里棋藝是不敵張玄的，可張玄想著秦軍即將壓城，心思根本就不再圍棋上，反而還敗給了謝安，謝安贏了別墅，轉頭就對外甥說：「別墅給你了。」就登山去游玩了，一直到晚上，才從山上回來，然后召集要出征的將領，安排事宜。

此時在荊州的桓沖聽到東晉形勢危急，打算派兵增援建康城，謝安反倒對桓沖派來的將士說：「我這已經有安排了，用不著你們，你們還是回去加強西邊的防守吧。」將士們就這樣回到了荊州，桓沖見此，更是擔心了。

桓沖憂慮的對將士們說：「謝公的氣度確實是讓人佩服，但對打仗一點也不在行。眼看敵人都要兵臨城下了，他還那樣悠閑，派去抵抗的士兵又那麼少，還讓一些沒經驗的將領指揮。這張站不用打已經可以知道結局了，我看我們很快就要變成秦的俘虜了。」

同年的十一月份，謝玄派劉牢之領五千精兵趕往洛澗，此時秦軍已經搶先占據了洛河，等待劉牢之，沒想到劉牢之帶兵徑直渡過了澗水，打敗了等在那里的秦軍，秦軍潰敗，此時謝石也帶著晉軍水路進發。

苻堅和符融在城墻上看到晉軍排兵布陣都很整齊，又看見了八公山上的草木，以為全是埋伏好的晉軍，這才覺得害怕，對符融說：「怎麼能認為這樣的軍隊弱小呢？」，兩人一時間都覺得小看了晉軍。

秦軍緊靠著淝水安營扎寨，晉軍就在對岸無法過河，于是謝玄就派使者對符融說，要是想要速戰速決，秦軍就后退一些，讓晉軍過河決一死戰。秦的將領覺得秦國士兵多，東晉士兵少，如果能阻擋他們過河，這場戰就贏了，但是苻堅可不這麼認為，苻堅覺得只是后退一點，等晉軍過河到一半，秦軍就開始攻擊，符融也認同苻堅，于是秦軍開始后退。

都知道在戰場上，后退是大忌，秦軍這一退，就沒能停下，晉軍一鼓作氣，度過淝水攻擊秦軍，符融想要阻止后退的士兵，卻沒能阻止，自己也被晉軍給殺了，秦軍見此，倉皇而逃。謝玄帶著晉軍乘勝追擊，橫尸遍野，秦軍一聽到風聲鶴唳，以為是晉軍追來了，一路上腳步都不敢停歇。

謝玄等人率領七萬晉軍，打贏了符融率領的十五萬前秦將士，淝水之戰以晉軍的大獲全勝告終。

此時謝安還在和客人下棋，晉軍在淝水之戰中全面獲勝的消息送到時，謝安看完，便放置一旁，面色不變，倒是客人憋不住先開口，謝安徐徐答道：「小兒輩遂已破賊。」一直到下完棋，謝安還是臉色淡然，仿佛早有預料。等到客人離開，他回到屋里，才難以控制自己心中的喜悅，步履輕快，甚至連木屐底上的屐齒碰斷了都不知道。

這一戰后，前秦一蹶不振，因此也逐漸走向了滅亡，北方的各民族也逐漸脫離了前秦的控制，而東晉這邊更是趁機北伐，吧邊界推到了黃河，此后數十年的時間里，都沒有外族人敢侵略東晉。

謝安在這一站后，名聲大噪，威望也比以前更高了，在戰前到戰后，謝安都極其冷靜的指揮和安排，無論是對于當時人心惶惶的建康城還是即將上戰場的將士們，都起到了鎮靜人心的作用，謝安在這一場戰役中功不可沒。

自古以來，忠臣背后沒少被小人嫉妒，謝氏一族聲望達到頂峰，同樣免不了這樣的命運，當時任會稽王的司馬道子專權，小人當道，謝安與孝武帝之間的間隙越來越大。

公元三八五年，謝安主動交出兵權，自請出鎮廣陵步丘，孝武帝為之踐行。謝安雖受朝廷之托，但喜好山水的志趣并沒湮滅，每每談去，都面露喜色。

同年八月，謝安病逝于建康，享年六十六歲，孝武帝聞之，在朝堂之中哭吊三日。

謝安文韜武略，機智沉著，先拖桓溫，再是淝水，這兩次大功，對東晉的影響如此重大，可以說，要不是謝安，苻堅可能已經帶兵踏過東晉了，謝安以文人的灑脫胸懷，保住了東晉的萬里河山，如此淡然，實為風流，被稱為「江左‘風流第一’」，早先不肯入世，世人皆惋惜「安石不肯出，將如蒼生何？」，出世后果然保得世人安寧，這等才能，真是令人佩服。