羯族是匈奴族的别部，相貌长得高鼻、深目、多须，原住在中亚细亚，一部分随匈奴内迁到塞内，主要集中在上党的武乡（今山西榆社）。内迁的羯族还保留部落组织，但学会农耕，汉化比较深。
氐族属于西戎族，历史悠久。他们主要分布在今四川茂汶羌族自治县东北，一直到陕西略阳县和甘肃徽县、成县附近，有十多个部族，其中最大的是白马氐。由于不断内迁，到西晋时，主要居住在天水（甘肃天水）、南安（甘肃陇西县境）、扶风（陕西泾阳）、始平（陕西兴平）、京兆（陕西西安）一带。氐族语言风俗与汉人不同，但长时间与汉人杂居，大多懂得汉语，他们的姓氏与汉人也差不多。
羌族也属于西戎族，也叫西羌。羌族种类很多，分布广，如牦牛种的越雋羌，住在川滇边境；白马种的广汉羌，居住在四川西北等等。这些羌族不断反抗各朝统治者的压迫，不断地被统治者强迁到内地。到西晋时期，羌族强大起来，他们主要分布在关中的冯翊（陕西大荔）、北地（陕西耀县）、新平（陕西彬县）、安定（甘肃泾川）等地。他们的经济文化与氐族相差不多。
鲜卑族属于东胡族，原居住在大兴安岭以东今嫩江东北广大地区。东汉时匈奴南迁，他们便迁到匈奴故地，成为蒙古草原的新主人，成为继匈奴之后北方最强大的民族。他们日益发展壮大，逐步分成不相统属的几支。有东部的鲜卑段氏、慕容氏，居住在辽西，宇文氏居辽河上游；西部鲜卑拓跋氏居内蒙古南部及山西北部；拓跋氏的支族秃发氏居河西走廊；慕容氏的另一支吐谷浑生活在青海草原。到西晋时，慕容鲜卑迁到大棘城（今辽宁义县）；拓跋鲜卑内迁到陉北五县，开始与汉人杂居。
当然，内迁的民族不仅仅这五个，还有乌桓及南方少数民族。这些内迁的少数民族人民既受本民族贵族的压迫，又受汉族地主的剥削。他们大多沦为汉族大地主的佃客，如太原地区汉族大地主，多以匈奴胡人为佃客，多的有数千人。有的沦为奴隶，被汉族地主买来卖去。十六国时期后赵的建立者石勒就是这样被卖至山东的。西晋的一些军阀为争权夺势，强征胡人为兵，还对他们大肆杀戮。哪里有压迫，哪里就有反抗，趁“八王之乱”越演越烈，南方流民起义连绵不断，乘西晋政府焦头烂额、土崩瓦解之机，各族人民纷纷起来，反抗西晋统治。最先举起反晋大旗的是匈奴族军事贵族刘渊。
刘渊，字元海，是匈奴左部帅刘豹的儿子。因为汉高祖刘邦时对匈奴实行“和亲”政策，把宗室女作为公主嫁给匈奴冒顿单于，以后的匈奴最高首领单于就是汉朝刘氏皇室的外甥，汉朝又与匈奴结为兄弟，关系平等，所以他们改姓汉姓为刘。刘渊虽为匈奴人，但汉化非常深。在他年轻的时候，拜上党（今山西襄垣东）儒生崔游为老师，学习《诗经》《易经》《尚书》等儒家经典著作，他还特别喜欢《春秋左氏传》和《孙吴兵法》，也博览过《史记》《汉书》等史书，是个十分通晓汉族文化的文武全能的匈奴贵族。
他作为“质子”，就是人质，长期住在洛阳，他父亲死后，他代父为匈奴左部帅，后因部下反晋，刘渊被免官。
“八王之乱”发生后，司马氏诸王为了争夺权力，不惜与胡族军事贵族相勾结，以求得他们的帮助。当成都王司马颖夺得政权后，为了对抗东瀛公司马腾和安北将军王浚的进攻，拜刘渊为北单于、参丞相军事，于304（永兴元年）年八月，让刘渊回到匈奴人聚居地并州的左国城（今山西离石），为他召集匈奴五部兵力，消灭司马腾和王浚。这正中刘渊下怀，他急忙回到故地，立即称大单于，公开举起了反晋的旗帜。他迅速聚集五万多人，建都离石（今山西离石）。
刘渊如此迅速发展，是早已预谋准备好的。匈奴族与汉族统治阶级矛盾十分激化，早在晋武帝时，就发生过匈奴贵族右贤王刘猛兴兵反晋事件，而且刘渊的部下一些匈奴人也曾叛晋出塞。当“八王之乱”发生后，匈奴军事贵族认为反晋的时机已经成熟，匈奴贵族刘宣等积极策划复兴匈奴邦业的反晋斗争。
他们密推刘渊为单于，并派人与在邺城的刘渊联系。刘渊想回匈奴五部，可司马颖不放，刘渊让人转告刘宣招集匈奴五部人马，做好准备，他自己等待时机，再回旧部。所以，当刘渊返回匈奴五部，反晋斗争立即开始了。
304年十一月，刘渊迁都左国城，称汉王，建汉国，置百官，年号元熙。这是西晋末年北方少数民族所建立的第一个胡族政权。刘渊建汉后，打败并州刺史东瀛公司马腾的进攻，把司马腾赶出并州。
就在刘渊势力蓬勃发展的时候，又有两股强大的军事力量加入到刘渊政权中来，那就是王弥和石勒。
在刘渊起兵反晋时，关东大地各族人民反晋斗争也是风起云涌。306年（光熙元年），山东东莱（今山东掖县）刘伯根发动起义，东莱大族王弥也率领家兵参加。刘伯根死后，王弥成为这支义军首领。王弥有谋略，文武全才，号称“飞豹”。他带领这支队伍转战青州、徐州、兖州一带，并一度攻下西晋军事重镇许昌。后在进攻洛阳时，兵败，投降了刘渊，成为刘渊帐下一名重要干将。
与此同时，河北的石勒也率部众归降刘渊。石勒，字世龙，上党武乡（山西榆林）羯族人。他被东瀛公司马腾当做奴隶卖到山东。晋末天下大乱，他聚集壮士“十八骑”与“马牧率”汲桑一同起兵反晋。汲桑自称“大将军”，以石勒为“讨虏将军”，活动在河北一带。307年（永嘉元年），进攻邺城，杀死镇守邺城的东瀛公司马腾，烧毁邺宫，杀万余人。他们在山东、河北与东海王司马越作战30余次，后兵败，汲桑被杀，石勒率众投降了刘渊。
刘渊在石勒、王弥支持下，308年（永嘉二年），正式称汉帝，并将都城迁到平阳（今山西临汾）。刘渊称帝后，以王弥为青、徐二州牧，转战青、徐、兖、豫四州，派石勒转战河北，刘渊基本上控制了山东、河南、河北、山西的大部分地区。309年（永嘉三年）八月，刘渊派自己的第四个儿子刘聪为先锋，向西晋的心脏洛阳进攻。
这时的西晋政府更是腐败不堪，名存实亡了。东海王司马越执政后，毒死白痴皇帝司马衷，立傀儡皇帝司马炽为怀帝，改年号为“永嘉”。司马越独揽朝政，滥施淫威，诛杀异己，晋怀帝无能为力，只能叹息流泪而已。各地的地方官和诸侯王对朝廷已丧失信心，不再效忠朝廷，晋都洛阳已成了一座孤城。
刘聪在从平阳向洛阳进攻中，一路屡败晋军，顺利地打到洛阳附近。他被胜利冲昏了头脑，犯了轻敌的毛病，结果被晋朝弘农太守垣延夜间偷袭，刘聪大败，逃回平阳。
两个月后，刘渊派刘聪、王弥、刘曜等带领精兵五万，第二次大规模进攻洛阳。刘聪大军一路上势如破竹，很快就打到洛阳城下，包围了洛阳城，刘聪驻屯在洛阳的西明门外。当时晋军已有准备，死守洛阳城，并乘刘聪防备松弛的时候，晋军千余人夜间出城偷袭刘聪部队，刘聪的大将呼延颢被杀，还损失了许多兵马。刘聪首战失利，重新调阵部署，令刘曜进驻东门，自己转移到城南洛水边上。这时大将呼延翼又被晋军所杀，再战又失利。刘渊得知消息后，召刘聪还师平阳，刘聪认为晋军已疲弱不堪，请求留下攻下洛阳城再回师，刘渊同意了刘聪的请求。刘聪很迷信，他带着部下亲自到嵩山寺庙中烧香祈祷，祈求神灵助战，把留守大营的任务交给了部将刘厉、呼延朗。然而，就在他上嵩山祈祷的时候，洛阳城内的东海王司马越派大将孙询、丘光率三千精兵从宣阳门突然杀了出来，杀死守将呼延朗，刘厉也投水自杀，刘聪军队大败，损失惨重。刘聪返营时，一切都晚了，王弥劝刘聪退兵。刘聪只好听从王弥建议，还师平阳。
刘聪回平阳不久，即310年（永嘉四年）六月，刘渊在平阳病死，太子刘和继位。刘和非常残暴，不得人心，刘聪杀死刘和，自立为帝。刘聪称帝后，立即组织大量兵力，对洛阳进行第三次进攻。刘聪派他的儿子刘粲、弟弟刘曜及王弥率四万大军进攻洛阳，又派石勒率二万骑兵与刘粲会合。
当刘聪大军浩浩荡荡地杀向洛阳时，洛阳的晋廷惊恐万状，乱作一团。东海王司马越急忙派使臣到各地求援，可各地将领谁也不来援救京师，洛阳形势十分危机。一些大臣主张迁都避难，可执掌朝政的司马越不同意。他既反对迁都，又不准备死守洛阳，他借假讨伐刘聪为名，要带兵出镇许昌，把晋怀帝丢在洛阳。
司马越一心想带兵逃跑，根本不听晋怀帝的阻拦，于310年十一月，率领洛阳二十多万守军离开了京城，太尉王衍也跟司马越而去。这样洛阳更加空虚，怀帝也真正成了孤家寡人了。
311年（永嘉五年），司马越大军走到项县（今河南项城），司马越连惊带吓，忧虑成疾，病死在这里。王衍被推为元帅，率领军队抬着司马越的棺柩送往他的封国埋藏。大军走到苦县（今河南鹿邑县）宁平城时，被石勒的骑兵追上，晋军王公大臣和士兵十余万人全被歼灭。王衍、襄阳王司马范等王公贵族被俘，这些王公贵族为了保住自己的性命，竟讨好石勒，劝石勒做皇帝。石勒对他们丑恶嘴脸感到气愤，他下令将王衍等关在屋里，认为他们不值得用武器杀死，便在夜间将墙壁推倒，把他们活活压死，并下令将司马越的棺柩、尸体统统烧毁。
这时，留守洛阳的司马越部将何伦等听到司马越死讯，带着司马越的儿子及宗室36个王从洛阳来奔丧，在途中也被石勒处死。
311年（永嘉五年）六月，刘聪派刘曜、王弥、石勒等围攻洛阳，晋军节节溃败，洛阳陷落。晋怀帝被俘虏，皇太子被杀，文武百官及士兵死三万余人。
刘聪攻陷洛阳后，把皇宫中的金银财宝及宫女全部抢走，并把宫殿、官衙、庙宇及民房全部烧毁，魏晋两朝经营了将近一百年的洛阳，几乎化为灰烬。晋怀帝作为俘虏被押到平阳。
刘聪攻陷洛阳后，又派刘粲、刘曜进攻长安，长安陷落，刘聪以刘曜为雍州牧，镇守长安。这就是历史上有名的“永嘉之乱”。
由于匈奴军事贵族的残暴和酷虐，引起北方各族人民及部分留在北方官僚的反抗。晋安定太守贾疋率领氐、羌和汉族士兵五万多人攻向长安，雍州刺史麴特、扶风太守梁综等，也率领十万军队响应，于311年末攻下长安，立晋武帝之孙司马邺为皇太子。313年（永嘉七年），晋怀帝司马炽被刘聪杀害，司马邺在长安称帝，即晋愍帝。但这时的西晋朝廷只不过苟延残喘罢了，当时的长安城到处是残垣断壁，都没有百户人家，公家和私人只有四辆马车，粮食短缺，满目凄凉。在君臣共同努力下，这个政权勉强维持了四年，316年（建兴四年），刘曜再次攻陷长安，愍帝被俘，西晋政权灭亡。晋元帝司马睿在江东建立了东晋政权，历史进入东晋与十六国对峙时期，北方又陷入大分裂、大动乱的状态。
西晋政权自武帝称帝（265年）至愍帝被俘（316年）灭亡，共历四君五十一年，是历史上一个短命王朝。从此统一局面被打破，北方陷入战乱的深渊。
