《三国志》、《三国演义》中都有相同的一段描述，当晋灭吴战役取得胜利后，晋武帝司马炎举杯流泪说，“这都是羊太傅（羊祜）的功劳啊！”羊祜在晋灭吴（280年3月）之前一年多就去世了，并没有参加对吴作战，为什么他成了灭吴的第一功臣？羊祜后来入选“武庙七十二将”，成为其中唯一没有亲自取得大型战役胜利的入选者。
三国最后的名将，羊祜
负责晋吴前线军事长达10年
从269年到278年，羊祜一直担任荆州诸军都督、假节，负责晋吴前线军事将近10年。直到278年4月，羊祜才因为病重返回洛阳。这时距离司马炎279年11月发起灭吴战役，只有约一年半时间。
王濬在益州打造的楼船
举荐王濬担任益州刺史，造船南下
羊祜上任之初，就意识到，最后打败东吴不可能缺少水军，尤其是长江上游的水军。因此羊祜向司马炎建议，在益州大办水军。272年，羊祜推荐王濬担任益州刺史，具体负责水军之事。
羊祜果然没有看错人。王濬打造的水军在灭吴战役中，打败强大的东吴水军，并且率先攻入金陵城，接受孙皓投降。
晋武帝司马炎
解决了前线缺粮的问题
羊祜刚到荆州前线时，军队连100天的粮食都没有，也不可能过分指望后方运粮，中国古代长途运粮的损耗极大，非常不经济。于是，羊祜让一部分军队开展垦田，当年就开垦八百余顷。后来荆州前线的军粮储备，可以供军队使用十年，完全不用担心军粮供给问题。
晋灭吴战役形势图
制定了多路攻吴的成功作战方案
276年，羊祜认为攻吴的时机已经成熟，曾建议司马炎起兵攻吴，但因为西北鲜卑叛乱，攻吴只能暂时搁置，这一搁置使得羊祜最终没能看到晋灭吴。
但是在276年的攻吴准备中，羊祜制定了完整的攻吴作战方案。东吴总兵力也有二十万，并不明显弱于晋国，如果东吴收缩防线，重点防御，很可能在局部会形成对晋军的优势，这样就会很麻烦。因此，羊祜的方案是，在徐州、扬州方向实行牵制，首先集中水陆主力夺取夏口以西地区，然后顺江而下，集中兵力进攻吴都建业。
279年司马炎在晋灭吴战役中，基本沿袭了羊祜的作战方案。以司马伷、王浑两军直逼建业，牵制吴军主力，使其不能增援上游；以王戎、胡奋、杜预三军夺取夏口以西各战略要点，策应王濬水军顺江而下；然后由王濬、司马伷、王浑军南下东进，夺取建业。
可见羊祜的作战方案是富有预见性的。
孙皓投降，三国归晋
晋灭吴的总指挥实际是贾充
晋灭吴的总指挥实际另有其人，就是司马家的超级“好伙伴”——贾充（曾经指使成济刺杀高贵乡公曹髦）。“以太尉贾充为大都督，冠军将军杨济为副，率中军驻襄阳，节度诸军”。只不过这个贾充不但在战前反对攻吴，在战役过程中也基本没有什么存在感。
羊祜一生，并没有亲身指挥取得一场重大战役的胜利（甚至还参与过失败的西陵之战），却因为在晋灭吴之战前的充分准备、举荐合适人才、制定成功作战方案，被后世评为“武庙七十二将”之一，这在“武庙七十二将”中是绝无仅有的。
