刘禅在投降时，命令据守剑阁的姜维向魏将钟会投降，姜维和众将士无奈，只好接受命令。蜀国灭亡，邓艾抢了灭蜀头功，便开始骄傲自大，专断独行，擅自处理军政大事。司马昭派监军卫瓘对他说：“凡事要先报告，不得擅自行动。”
邓艾听罢，心里很不满，这引起了司马昭的怀疑。这时，钟会对邓艾独占灭蜀之功感到气愤，乘机状告邓艾要谋反。司马昭命令将邓艾押回洛阳，不料途中，邓艾便被卫瑾杀掉。邓艾死后，钟会独揽军权，便起了反心，他同降将姜维准备占据长安，进军洛阳。老谋深算的司马昭对此早有防备，入蜀魏将、士兵发动反叛，姜维、钟会被杀，一场反司马昭的军事行动就这样失败了。
灭蜀后，司马昭称晋王，立儿子司马炎为王太子、副相国。265年（咸熙二年），司马昭没来得及做皇帝便病死了。司马炎继承王位，并积极筹划称帝。十一月，他即仿效魏文帝逼汉献帝“禅让”的故事，叫魏元帝曹奂“禅位”。曹奂无奈，只好拱手把皇帝宝座“禅让”给司马炎。十二月的一个良辰吉日，司马炎在洛阳宫太极殿即帝位，史称晋武帝，仍都洛阳，年号泰始。史称西晋。这宣告统治北方46年（220—265年）的曹魏政权退出历史舞台，新的政权——西晋诞生了。
西晋建立后，头件大事便是伐吴，统一全国。当时条件还不具备，所以，司马炎在军事上做了积极的准备。269年（泰始五年），派尚书右仆射羊祜都督荆州诸军事，镇守襄阳；以征东大将军卫瓘苣都督青州诸军事，镇守临菑（今山东淄博东北）；以镇东大将军、东莞王司马伷都督徐州诸军事，镇守下邳。以羊祜的荆州防线为主。
羊祜是司马师的小舅子，博学多才，他积极主张伐吴。他到襄阳后，领兵屯驻在靠近东吴边境上的南夏小镇。那里十分荒凉贫瘠，羊祜决定将南夏小镇治理好，作为伐吴基地。他在南夏推行屯田，开垦出八百多顷土地，经过广大士兵一年多的共同努力，粮食获得大丰收，军粮可供十年之用，为伐吴做好了物资上的准备。
羊祜知道，要想灭吴，靠陆军是行不通的，必须要有一支强大的水军，要有足够的船只，才能攻破东吴赖以生存的长江天险。据说西晋建立后，东吴流行这样一首童谣：阿童复阿童，衔刀游渡江。
不畏岸上兽，但畏水中龙。
这说明东吴不怕西晋的陆军，而怕水军。羊祜向晋武帝推荐小名叫“阿童”的益州刺史王濬，让他监督梁州诸军事，并给他“龙骧将军”的称号，密令他在蜀中造船和木筏，训练水军。一旦条件成熟，王濬便可率水军顺长江而下，直捣建业。晋武帝接受了羊祜的建议，令王濬开始在蜀中造船、训练水军。
羊祜在荆州前线一边做伐吴的军事准备，一面注意收买人心，对东吴军民采取攻心战术，以便将来灭吴时阻力小些。他宣布投降过来的吴人，如果愿意回去，不加限制，来去自由。有一次，他领兵行军到东吴边境，粮食缺乏，收了东吴的庄稼，回来之后，叫人计算数量，按数送绢给吴人偿还粮价。有时，羊祜率士兵在边境打猎，如果猎物先为吴人所伤，而被晋兵获得，便令士兵送还给吴人。羊祜的所作所为，使东吴边境军民非常佩服，他们在提到羊祜的时候，都不叫他的名字，而尊称他为“羊公”。
不仅东吴军民对羊祜很钦佩，就连东吴将领对羊祜也很敬重。当时东吴在荆州前线与晋军对抗的将领是镇东大将军陆抗。他是东吴名将陆逊的儿子，孙策的外孙，非常具有政治军事才干，年轻有为。他和羊祜虽为敌手，但私人感情很好，彼此都很了解和信赖。陆抗曾对部下说：“晋朝专修德政，而我们却实行暴政，这是不战而败啊！我们要尽力维持和好，各保分界，以求相安无事。”
这话传到国君孙皓那里，他很气愤，下诏责怪陆抗。陆抗解释说：“一邑一乡都不可以无信义，何况一个大国呢？我如果不这样做，就更显示了他们的德政，这对羊祜能有什么损害呢？”
就在西晋积极准备伐吴时，东吴政权却日益腐朽、衰落下去。早在孙权称帝后，东吴政权便开始走下坡路。孙权执政晚期，刚愎自用，对自己的文武百官进行怀疑，对任何人都存有戒心。那些带兵守边的将领，出征前要交出妻子儿女做人质，如果将领叛逃，便将人质杀掉，甚至要灭三族。为了监视文武百官，他还养一批叫校事、察战的人，这些人造谣诬告，乱杀无辜，大臣们个个惶惶不安，自身难保。孙权最宠信的中书典校吕壹，凶狠残暴，毫无人性，对大臣们进行极端摧残，而大臣们却敢怒不敢言。上大将军陆逊见吕壹将朝政弄得如此混乱，冒死上书孙权，孙权被迫将吕壹杀了，但校事之官仍没废除，大臣们仍在惶恐中度日如年。
不仅大臣们如此，百姓们在孙权繁重赋役下，无以聊生，甚至铤而走险，起来反抗。大臣们建议孙权应减轻赋税，孙权却诡辩说：“如果我们只守江东，现在的兵力是够了，赋役是应该放宽些。不过这样，目光太短浅了，所以要预先调兵，以备临时应用。百姓劳苦，我不是不知道，但事出不得已。”
如此暴政，百姓没有生路，官逼民反，老百姓只好起来造反。各地群众的反抗运动风起云涌。孙权一面派军队镇压，一面下令各郡县修城郭，起炮楼，挖城壕，就是不肯减轻百姓负担，从根本上解决问题。所以，整个三国时期，东吴政权内的阶级矛盾是三个政权中最尖锐的一个，农民起义也是最多的一个。
在东吴统治阶级集团内部，矛盾也日益尖锐激化。在立太子问题上，宗室内部斗争异常激烈。孙权先立孙登为太子，孙登早死，又立孙和为太子。孙权偏爱孙和的弟弟孙霸，又欲立孙霸为太子，遭到陆逊等大臣们的反对。孙权对陆逊多次加以责备，陆逊忧愤而死。孙权怕酿成大祸，只好废掉太子孙和，并命令孙霸自杀，另立少子孙亮为太子。孙权死后，年仅10岁的孙亮即位，由大将军诸葛恪和宗室侍中孙峻辅政。
诸葛恪是陆逊死后东吴的主要将领，领兵驻扎在战略要地荆州，抵御曹魏。辅政后，他一年中打败魏的七次进攻，并决定对魏大规模进攻。结果大败，使东吴国力更空虚，元气大丧。同时，诸葛恪也遭到宗室孙峻、孙纟林的猜忌。他们杀死诸葛恪，由孙峻独揽朝政。孙峻死后，孙纟林掌政，废孙亮，立孙休为帝。孙休杀死孙纟林，做了6年皇帝病死，由孙皓即位为帝。宗室内部相互残杀，使东吴政权彻底衰落下去。
孙皓是三国时期最残暴的昏君，他视大臣生命如革芥，稍不如意便大开杀戒。他甚至用剥面皮、凿眼睛等残酷手段杀戮大臣，弄得朝廷上下，人人自危。生活上，孙皓更是穷奢极欲，大兴土木，修宫殿，建花园，花费以亿万钱计。他的爱妾派人到市场上去抢夺老百姓的财物。管市场的司市中郎将陈声要以法制裁抢劫之人。孙皓得知后，以别的罪名，用烧红的铁锯，把陈声的脑袋锯掉。
如此残暴的统治，使东吴国库没有够一年的储蓄，老百姓家更是一贫如洗，人民反抗运动此起彼伏。这样的政权，这样的军队纵有长江天险，又怎堪一击。
274年（吴凤凰三年），东吴主要战将陆抗病死，东吴已是内无贤臣，外无良将。羊祜觉得进攻的时机已经成熟，他上书晋武帝司马炎说：吴主荒淫无道，又非常残暴，已经失去了民心。而我们的力量却正在强大，力量相比如此悬殊，长江天险再也无法保护他了。我们应趁此机会，讨伐吴国，统一天下。如果我们各路大军齐下，东吴防不胜防，灭亡便是自然的，更何况东吴士兵平时都不想为孙皓效力，我们大军一到，他们就会投降。灭亡东吴，统一海内就在眼前了。
羊祜的分析很有道理，司马炎很赞同。但由于遭到朝廷里有些大臣的反对，再加上凉州鲜卑树机能起兵反晋，羊祜的建议被搁置。
不久，羊祜病死。他推荐杜预担任灭吴的统帅。279年（咸宁五年），在蜀中造船、训练水军的益州刺史王濬又上书司马炎说：“孙皓荒淫凶暴，应该早日灭吴。如果孙皓身死，更立贤主，东吴又将成为强敌。我造船七年，有的船已经逐渐腐烂；同时，我已年过70，马上到了死亡时候。这三条有一样不顺，东吴就很难攻取。诚愿陛下莫失良机。”
当时司空张华也积极主张伐吴。武帝司马炎决定接受他们建议，大举南征灭吴。279年十一月，以张华为度支尚书，负责军粮供应；命太尉贾充为伐吴大都督，统领二十多万大军，在东西千里的战线上分六路，同时出击。镇东大将军琅玡王司马伯向涂中（指涂水流域，今安徽、江苏的江北交界处）、安东将军王浑向牛渚（今安徽当涂西北）、建威将军王戎向武昌、平南将军胡奋向夏口、镇南大将军杜预向江陵、龙骧将军王濬、巴东监军唐彬领巴蜀军沿江东下。
西晋大军南下消息传来，孙皓大惊失色，急忙召集文武群臣商量对策。当时只有新任丞相张悌等少数人主张抗战。张悌为孙皓出谋道：“自古道，兵来将挡，水来土掩。请陛下派骠骑将军伍延为都督，进兵江陵，抗击晋军主力；派骠骑将军孙歆抵抗夏口等处的晋军；我和左将军沈莹、右将军诸葛靓出兵牛渚，接应各路军马。”
大祸临头，孙皓只好按张悌的意见调兵遣将。为了防备晋军顺长江东下，又下令封锁江中的险要之处，锻造许多碗口粗的铁锁链，将江面拦住，以阻止晋军的战船。又造了许多一丈多长的尖利的铁锥，吊在水面下，以扎破晋军的战船。西晋六路大军齐头并进，势如破竹，所向披靡，吴军节节溃败，望风而逃。王濬率领的八万水军，战船百里，浩浩荡荡地沿长江顺流而下。到了吴军长江设防处，王濬令士兵赶造几十只大木筏，每只木筏宽百步余，上面装上许多草人，披甲持杖，作为疑兵；又挑选一些水性好的士兵放筏先行，顺流而下，把吴军在江中布置的铁锥，扎在木筏上带走了，为后面的战船扫清了道路。又在船前装上长十余丈、大数十围的火把，灌上麻油，遇上铁锁链，水兵就点燃大火，烧断铁锁链，使战船畅通无阻。
280年（咸宁六年）三月，王濬水军直捣东吴京城建业，东吴军队望旗而降，再也无力抵抗。孙皓走投无路，只好效仿蜀后主刘禅，乖乖举旗向王濬投降，至此，统治江东59年（222—280年）的东吴政权灭亡了。
孙皓投降后，被迁到晋都洛阳，晋武帝封他为归命侯。
西晋灭亡东吴，结束了自东汉末年以来近一百年的分裂割据局面，重新统一了全国。它的疆域东、南直到大海，西到葱岭，西南到今云南、广西及越南的北部、中部，北抵燕山，东北到朝鲜半岛西北部。司马氏在如此广阔的版图上，建立起统一的政权，这是历史的进步，具有一定的积极意义。
