公元383年七月，前秦国君苻坚不顾群臣反对，一心想统一天下，下诏大举攻晋。八月，苻坚亲率60万大军南下，水陆齐进，直逼淝水，京师为之震惊。东晋的宰相谢安虽然外表镇定，内心也十分忧虑，他对东晋的家底盘算了一下，觉得还有几分希望：名将桓温的弟弟桓冲将军带着10多万人马镇守荆州，应该可以守住我大晋的西大门。至于东部防线，有我的堂弟谢石和侄子谢玄率领的北府兵，北府兵从江淮之间的流民中募集，战斗力很强，应该能跟秦军拼上一拼！
谢安拿定了主意，命令谢石为主帅，谢玄为前锋，统领谢琰、桓伊、刘牢之等将领率着8万人开赴淮水一线抗击秦军。谢安早已料到，秦军来势凶猛，晋军不管怎样英勇，肯定要先吃几个败仗，至于后来情势如何发展，只好交给老天去决定。谢安的估计没错，十月，苻融的军队渡过淮河，攻下了淝水（淮河南岸支流，流经今安徽淮南西）西岸的军事重镇寿春（今安徽淮南西），然后又派部将梁成率领5万人向东进驻洛涧（淮河南岸支流，流经今安徽淮南东）。这时，谢玄也率兵赶到了这里，他有些害怕屡战屡胜的前秦梁成将军，于是在洛涧东岸与秦军隔河对峙。
亲率大军已经到达项城（今河南沈丘）的苻坚，密切关注着战场动态。这时，苻融向他报告，说抓住了困守硖石（今安徽寿县西北）的晋军将领胡彬的一个信使，获得胡彬粮草缺乏、兵力单薄的绝密情报，建议秦军迅速开进，以防敌军逃遁。苻坚乐开了花，撇下大部队，亲率骑兵8000疾驰寿春。可能是觉得自己胜券在握，苻坚就派降臣朱序到晋营策反主将谢石。可没想到身在曹营心在汉的朱序反而向谢石等人密告了秦军的情况，并建议谢石等人乘秦军主力未到发起攻击，一鼓作气击败苻坚。
谢石、谢玄经过一番商议，就派名将刘牢之率领精兵5000人，先对洛涧的秦军发起突然袭击。守在洛涧的秦军不是北府兵的对手，勉强抵挡一阵，败了下来，秦将梁成被晋军杀了。秦兵争先恐后地渡过淮河逃走，大部分掉在水里淹死。
洛涧大捷后，谢石、谢玄一面命令刘牢之继续援救硖石，一面亲自指挥大军，乘胜前进，直到淝水东岸，把人马驻扎在八公山边，和驻扎寿阳的秦军隔岸对峙。
苻坚派出朱序劝降以后，正在扬扬得意，等待晋军的投降，突然听到洛涧失守，感到十分意外，有点沉不住气。他要苻融陪着他到寿阳城楼上去看看对岸形势。
苻坚在城楼上一眼望去，只见对岸晋军一座座的营帐排列得整整齐齐，阵容严整威武。再往远处看，对面八公山上，隐隐约约不知道有多少晋兵。其实，八公山上并没有晋兵，不过是苻坚心虚眼花，把八公山上的草木都看做是晋兵了。苻坚有点害怕了。打那以后，苻坚命令秦兵严密防守。晋军没能渡过淝水，谢石、谢玄十分着急。于是谢玄派人给苻坚送去一封信，说：“你们带了大军深入晋国的阵地，现在却在淝水边按兵不动，这是想打仗吗？如果你们能稍往后撤一点，腾出一块地方，让我军渡过淝水，双方就在战场上比一比。这才算有胆量！”
苻坚一想，要是不答应后撤，不就是承认我们害怕晋军吗？他马上召集秦军将领，说：“他们要我们让出一块阵地，我们就撤吧。等他们正在渡河的时候，我们派骑兵冲上去，把他们消灭。”
谢石、谢玄得到苻坚答应后撤的回音，迅速调集人马，准备渡河进攻。
约定渡河的时刻到来了，苻坚一声令下，苻融就指挥秦军后撤。他们本来想撤出一个阵地就回过头来总攻，没料到许多秦兵由于厌恶战争，加上害怕晋军，一听到后撤的命令，撒腿就跑，再也不想停下来了。
谢玄率领八千多骑兵，趁势飞快渡过淝水，向秦军猛攻。
苻融气急败坏地挥舞着剑，想压住阵脚，但士兵像潮水般地往后涌来。晋兵从后面赶上来，把他一刀杀了。阵后的苻坚看到情况不妙，只好骑上一匹马拼命逃走。不料一支流箭飞来，正好射中他的肩膀。苻坚顾不得疼痛，继续催马狂奔，一直逃到淮北才松了口气。
经过这场大战，强大的前秦元气大伤。苻坚逃到洛阳，收拾残兵败将，只剩下十几万。不久，苻坚被部下姚苌所杀，前秦统治瓦解，北方又重新陷入分裂和混战的状态。
