在淝水之战的前夕，晋孝武帝时期，谢安执政，桓冲为荆州刺史，防御荆襄地区；谢玄镇守广陵，与谢安防御淮南地区。为了加强中央的军力，晋孝武帝令谢玄招募淮南江北百姓，成立了北府军。
前秦灭掉前燕后，前秦帝苻坚有意灭东晋以统一天下，攻下东晋梁益二州。苻坚的目标指向东晋，桓冲率领十万军，意图夺回襄阳，苻坚派苻睿、慕容垂等人防御。苻坚认为时机已到，率举国之师南征东晋，兵分三路，声势浩大。他亲率步兵六十万抵达项城，派苻融为先锋率二十七万兵攻打寿阳，梁成等人屯洛涧以控制淮河。晋朝廷震惊，谢安力持镇定，命令谢石为前线大都督、谢玄为先锋，与谢琰、桓伊等人率八万北府兵北上救援。
秦军前锋攻陷寿阳后，苻坚赶往指挥，并派朱序向谢石诸降劝降。但朱序尽泄秦军虚实，并建议速战速决。谢玄派刘牢之率五千精兵攻破洛涧，晋军西行，与秦军对峙于淝水。
有人向苻坚建议后退决战，诸秦将认为阻挡敌人在淝水河畔比较安全，但是苻坚认为趁晋军渡河到一半攻击可以主动的对决。当秦军向后移动时，晋军渡水突击，朱序在后军大喊秦军已败。此时秦军大乱，谢玄等人乘胜追击，秦军全面崩溃，苻融战死，苻坚中箭，孤身逃