晋太元八年（383）秋八月戊午日，前秦皇帝苻坚命令全国的老百姓，每十丁抽一，共征调一百多万大军，浩浩荡荡向南开去。一场大规模的前秦与东晋争夺战开始了！
由于苻坚所带的军队太多了，他的中军抵达项城（今河南项城）时，凉州的部队才来到咸阳，而蜀汉的水军正在长江顺流而下，幽冀的士兵正在彭城（今江苏徐州）地界行军。军队走在路上，前后绵延近千里地。
秦军的大举进攻使晋国非常恐慌，文武百官尽皆失色，晋帝司马曜更是惊恐不安。只有谢安胸有成竹道：“苻坚虽有雄兵百万，但我有三胜之宝。”朝臣们的心这才稍稍安定，又向谢安请教谁当为帅。谢安推荐自己的侄子谢玄。于是司马曜宣谢玄进京，任命他为元帅。谢玄又保举刘牢之为先锋，带着八万“北府兵”，由京口起军，沿淮河西上去阻秦兵。
前秦的大将军苻融围攻寿阳，攻城很专业，围三面而留一面。所以寿阳守将徐元喜并没有死守城池，感觉顶不住的时候就弃城南逃，结果被秦将张蚝的伏兵袭击。徐元喜被俘，晋军投降。苻融进入寿阳后，东晋的龙骧将军胡彬率八千水师已到了淝淮界口，苻融即命大将苻方率军两万去迎击胡彬。两军交战后，晋军不敌，便退至硖石。
硖石是进入淮水必经的峡口，在这个峡口两岸各有一城，十分险要。苻方攻了四五日也没有攻下，便向苻融请求增援。苻融道：“关口险要，不是增兵就能攻破的。不过你也不用攻城，只需要把两城围得严严实实的，时间长了胡彬一定缺粮，到时候城池不攻自破。”
苻融又派卫将军梁成率五万人马抢占洛涧关口，阻止谢玄的军队逆流西上增援。谢玄被梁成阻在洛涧之东，没办法前进，只得暂时停止进军，在洛涧河附近安下营寨。
被困在硖石的胡彬，粮食将尽，派人去向谢玄求援，被苻融捉到。苻融料定硖石指日可下，不由笑道：“我以前以为江南很难打，没想到江南如此不堪。”立刻向皇帝苻坚报喜，苻坚也很高兴，登上城头向江南望去，感慨道：“真没想到秦始皇一统天下的大业，这次落到了朕的身上！”喜悦之情溢于言表。
