西晋灭亡后，以司马睿为首的汉族地主阶级在江南建立起东晋偏安政权，而北方地区则成了少数民族的天下。入居北方的匈奴、鲜卑、羯、氐、羌等少数民族相继在北方建立起自己的政权，北方的历史进入“五胡十六国”时期。十六国是指匈奴族所建的汉及前赵、夏；羯族建的后赵；鲜卑族建的前燕、后燕、西秦、南凉、南燕；氐族建的成汉、前秦、后凉；羌族建的后秦；卢水胡建的北凉；汉族建的前凉、西凉、北燕等十六个政权。其中汉与前赵算做一个政权。这些政权除成汉为巴蜀地区外，都在中原地区。当然，从刘渊建国到北魏统一北方这一百三十多年历史中，参加中原角逐的还不止这十六个政权，还有汉人冉闵建立的魏、丁灵翟氏建立的魏、武都氐帅杨氏建立的仇池国、鲜卑慕容氏建立的西燕、鲜卑拓跋氏建立的代五个政权，总计先后建立了二十一个政权。从时间上看，十六国时期可以分为两个阶段，以淝水之战为界线，淝水之战以前为前期，北方主要出现了汉、前赵、后赵、冉魏、前凉、前燕、前秦等政权。淝水之战后，北方再度分裂，出现了后秦等十三个政权。
十六国时期，无论是前期还是后期，战乱一直是其时代的主要特征。那些胡族军事贵族为建立和保卫他所建立的政权，不断进行兼并战争，整个北方动荡不安，难觅一块净土。民族矛盾异常尖锐，各族人民在血雨腥风的战争中，增进了相互的了解和联系，他们打破了原有的生活习俗和地域，各民族人民相互学习，从而在中国古代历史上，第一次大规模地出现了以汉族为主体的民族大融合的历史过程。民族融合构成了这一时代的主旋律。
304年（太安三年），刘渊建立匈奴汉国，拉开了五胡十六国时代的序幕，这是十六国时期北方第一个胡族政权。刘渊死后，刘聪灭亡了西晋，成为中原势力最强大的割据政权。
刘聪名义上是中原霸主，可他的政权内部很不统一，他的军队是各种割据势力的联合体，表面臣服他，暗地里都在不断地发展自己的势力。他的干将石勒以襄阳（今河北邢台）为根据地，占据河北；刘聪的堂弟刘曜以相国都督中外诸军事的头衔，坐镇长安，控制着关中地区，此外还有许多割据势力，各据一方。刘聪实际控制的地盘只不过是今天的山西西部山区和汾河河谷等地。可刘聪却满足这种表面上的虚荣，政治上没有什么建树，生活中荒淫残暴，这就注定了这个胡族政权是个短命政权。
刘聪为了便于对所征服地区各族人民的统治，他强行地将被征服地区的各族人民迁到他的统治中心——都城平阳（今山西临汾市）所在的并州地区，实行胡、汉分治，就是将汉人和胡人分开管理。设左右司隶和内史等官，管理汉人，设单于左右辅和都尉等官，管理胡人。这种政策被十六国前期各胡族政权的统治者所采用，胡族的地位远远高于汉族。这种胡、汉分治的政策阻碍了各民族间的融合。
刘聪是一个极端荒淫残暴的统治者。他即位不久，便纳太保刘殷的两个女儿为左右贵嫔，不久又娶了刘殷的四个孙女为贵人，姑姑和侄女共同侍奉一个皇帝，刘聪对“六刘”特别宠爱，居后宫之首。后又立中护军靳准的两个女儿月光、月华为皇后，又纳中常侍王沉养女为皇后。后宫中拥有皇后玺绶的有七个人，就是说，一个后宫竟有七个皇后，这真是亘古未有的荒唐事。他整日沉于酒色，不理朝政。有时在后宫与宫人喝酒、玩乐、醉得三天三夜都不省人事。他还特别残暴，嗜杀成性，一言不合，就把大臣杀死，如大臣綦毋达、公师彧、王琰、朱诞等，都无缘无故被杀。因他要吃的鱼蟹供应不上，他就将管这事的官吏左都水使杀死；宫殿没有按期交工，就将负责建筑的将作大匠杀死。他杀死自己的弟弟刘义时，还把他弟弟手下的无辜士兵杀死一万五千多人，几乎平阳的街巷都找不到人了。他为了能专心地追求享乐，他把政事交给他的儿子刘粲。有其父必有其子，刘粲在荒淫奢侈方面，有过之而无不及。他整日胡作非为，亲近小人，残害忠良，严刑酷法，一意孤行。在他们的残暴统治下，汉国的各族人民走死逃亡，生活在水深火热之中。
318年（晋大兴元年），刘聪终因荒淫过度而死亡。刘粲不仅继承了他父亲的皇位，也继承了他父亲的皇后，靳准的女儿在刘聪死后，被尊为皇太后，按辈分来讲，她应是刘粲的母亲辈。刘粲却以靳氏为妻，经常临幸靳氏。这是匈奴族的风俗，就是父亲死，儿子可以把他的继母娶为妻子。他因宠爱靳氏，便重用靳氏的父亲靳准，任命靳准为大将军、录尚书事，军政大权都交给他。靳准的野心很大，独揽大权后，就在刘粲即位的当年发动了政变，杀死刘粲，并将刘氏一家，不论男女，一律杀死，还把刘渊、刘聪的坟墓掘开，鞭尸扬骨。靳准自称大将军、汉大王，至此，刘渊所建的匈奴汉国就灭亡了。
靳氏叛乱的消息传出后，占据关中的刘聪的族弟刘曜从长安赶来，他要消灭靳准，替刘家报仇，实际上是想乘机夺取皇权。当他率军走到赤壁（在河东皮氏县西北赤石川），正赶上从平阳逃来的大臣呼延晏等，探听京中消息后，刘曜没有等得及到平阳，在这里就继了皇帝位，改元光初（318年），第二年移都长安，改国号为赵，史称前赵。实质上它是匈奴汉国在关中地区的延续。
刘曜称帝后，为拉拢石勒，封石勒为大司马、大将军，晋封为赵公，相约共同进攻靳准。这时，靳准的部下将靳准杀死，推靳明为主，并把所获得的西晋传国玉玺送给刘曜，准备投降刘曜。石勒闻讯后大怒，急攻平阳，靳明大败，就向刘曜求救。刘曜派刘雅去救靳明，刘雅将平阳士女一万五千多人迁到长安。刘曜杀靳氏男女，而石勒却攻占了平阳。从此，石勒与刘曜关系破裂。石勒回到河北，于319年（晋大兴二年），在襄国称赵王，建立起新的割据政权。为区别刘曜所建政权，史称石勒所建的政权为后赵。从此，中原大地进入了两大割据政权前赵、后赵互相征战时期。
刘曜所建立的前赵政权与匈奴汉国是如出一辙，可以看成是一个政权，在统治政策上也是一脉相承的。如胡、汉分治政策，但刘曜的统治比刘聪统治相对开明一些，如任用一些汉族地主做官，恢复统治地区的租役制度等。在匈奴汉国时，国家没有固定的赋税制度，国家和统治者们需要多少，就从老百姓那里强行征调和抢劫多少，老百姓负担特别重。前赵建立了固定的赋税制度后，相对地有了制度可依，百姓负担相对也就减轻一些。
刘曜作为一个匈奴族军事贵族，有一点与刘渊、刘聪非常相同，那就是嗜杀与好战。刘曜从当皇帝之日起，就一刻不停地进行内外征战。他首先是稳定他的统治中心关中地区。当时关中陇右一带，居住许多氐族和羌族。320年（晋大兴三年），关中的巴氐人起来造反，他们推举巴氐归善王句渠知为首领，一时之间，关中地区的氐、羌、羯各族都纷纷起来响应，人数达到三十多万，关中地区大乱，吓得统治者们黑天白天都关着城门。刘曜采取“安抚”政策，平定了这次反抗，并将巴氐等族部落二十多万口都强行迁往长安。然后又攻打巴氐杨难敌，平定秦州刺史陈安的反叛。
政权内部稳定后，他开始向周围的其他割据政权宣战。这时，他拥有军队二十八万五千人，每到出战时，他就将军队沿黄河岸边排开，长达百余里，并擂鼓助威，河水为之翻滚。刘曜就以这些军队为资本，四处征战。他率领大军浩浩荡荡地进攻河西地区汉族张氏所建的前凉政权，前凉王张茂被迫向刘曜称藩臣服，并派使臣向刘曜纳贡，刘曜才班师回朝。
刘曜不顾国力，与占据洛阳以东地区的石勒所建的后赵政权进行频繁战争。其中大规模战争有两次。
325年（晋太宁三年），石勒将领石他，从雁门关出上郡，袭击前赵安国将军北羌王盆句除，俘获三千余落，获马牛羊百余万头。刘曜闻讯后大怒，拂袖而起，派中山王刘岳率军追击，自己殿后。刘岳追上石他，将石他杀死，把石他所抢去的人口和牛羊全都抢回来。随后，刘曜派刘岳进攻石生于洛阳金墉城。石勒命石虎率兵四万援救石生，与刘岳大战于洛水西岸。刘岳大败，退保石梁戍（在洛水北岸），被石虎团团围住。刘岳外无援兵，内无粮草，只好杀马来做军粮。刘曜急忙率大军来援救，屯兵在金谷（今河南洛阳市西北），夜里军中士兵无缘无故地发生骚乱，士兵四处逃散，刘曜便将军队退到渑池（今河南渑池），夜里军中又无故发生骚乱，士兵又溃散，军心涣散，战斗力丧生。刘曜没办法，只好退回长安。不久，石虎攻下石梁戍，生擒刘岳及将士三十多人，将他们送到襄国，而将前赵士兵一万六千人都活埋了。
328年（晋咸和三年），石勒再次派石虎，率四万大军，从轵关（河南济源县境）西攻刘曜，刘曜亲率水陆精锐部队从潼关来迎击石勒。石虎见刘曜来势凶猛，吓得急忙退兵。刘曜一路追来，大战于高侯（今山西闻喜县境），杀死石虎大将石瞻，陈尸二百多里。石虎大败，逃奔朝歌（今河南淇县）。刘曜乘胜追击，围攻后赵石生所守的洛阳金墉城。石勒闻讯后，亲率大军前来援助。
刘曜久攻金墉城不下，又听说石勒来援，心里有些害怕。他撤出围攻金墉的军队，在洛阳的西北摆开战阵，南北十余里。石勒见刘曜竟按他所预料的下策部署的军队，高兴地对部下说：“你们可以祝贺我了。”
于是，石勒率军进入洛阳城，准备与刘曜大战一场。
大战的那一天，石勒派石虎率步兵三万，从城北向西进攻刘曜的中军；派石堪、石聪等各率八千精锐骑兵，从城西向北进攻刘曜的前锋部队；石勒自己出洛阳阊阖门，夹击刘曜大军。在这生死关头，石勒全力以赴，而刘曜却沉醉在酒中。匈奴族作为游牧民族，常年生活在高寒的塞外，为了抵御寒冷，匈奴族男人大都好喝酒。刘曜更是嗜酒如命，临出战前，饮酒数斗。他常乘一匹红马，无故马失前蹄，将刘曜从马上摔下来。刘曜便改乘小马，临出发前，又喝一斗多。到了西阳门，石堪所率骑兵冲杀过来，刘曜的军队大败。刘曜还没有醒酒，醉眼蒙眬地骑着小马逃跑，马陷到石渠里，刘曜被摔到冰上。没等他从冰上爬起来，就被后赵士兵刺伤十余处，被石堪活捉。石勒大破前赵军队，斩首五万多。
一场生死之战就在刘曜醉梦中戏剧性地结束了，等刘曜彻底清醒时，已成了石勒的阶下囚。不久，被石勒杀死。石勒乘胜追击，消灭前赵的残余势力。第二年（329年），攻占长安，占据关中地区，前赵最后灭亡。
从刘渊称汉王起，到刘曜儿子刘熙被俘止，汉和前赵共经历26年而亡（304—329年）。从此，匈奴族这个强大而又剽悍的民族便基本上退出了北方纷争的历史舞台，并逐渐地融合到汉民族中去了。
前赵灭亡后，石勒所建立的后赵便成了中原地区最大的霸主。
