刘渊去世后，太子刘和继位。不久，刘渊四子刘聪杀了刘和称帝。311年，刘聪派大军攻打洛阳，俘虏了晋怀帝司马炽，同时纵兵烧掠，杀王公百官三万余人，史称“永嘉之乱”。之后，西晋朝廷将都城迁到长安，维持了五年岌岌可危的统治。316年，汉军攻占了长安城，俘杀了晋愍帝司马邺，彻底灭亡了西晋王朝。这是继西周后中国历史上又一个被少数民族灭亡的朝代。
■弑兄称帝，血洗洛阳
刘渊死后，太子刘和登基。不久，刘聪弑兄夺位。刘聪从小就聪明好学，也和他父亲一样，深受汉族文化的影响。十四岁时，刘聪就已经遍读经史以及诸子百家的典籍。他不仅精于《孙子兵法》，擅长击剑和射骑，在书法和辞赋上也颇有造诣，可以说是文武兼备。年少时，刘聪就游遍了京都洛阳，结交了很多名士、豪侠。此后，他被新兴太守郭颐看中，做了主簿，自此正式开始了为官之路。“八王之乱”开始后，刘聪应付裕如，先是在河间王司马颙手下做赤沙中郎将，之后又投靠了成都王司马颖，做了右积弩将军，率军征战。
刘渊去世后，太子刘和登基为帝，但刘和生性多疑，对执掌着军权的刘聪诸多猜忌，打算除掉刘聪。刘聪便举兵杀死了刘和，自立为帝，将年号改为光兴。刘聪登基后，相继实行了一些改革政策，在政治、军事上也取得了一些成就。刘聪虽不及父亲刘渊那样具有谋略，敏锐果敢，然而他执政期间是匈奴汉国最为繁盛的时候。
正当匈奴汉国强大起来的时候，西晋的统治已日薄西山。306年，东海王司马越毒死了痴愚的晋惠帝，立晋武帝的第二十五个儿子司马炽为帝，这就是晋怀帝。此时的晋朝，已经是一盘散沙，尽管外临强敌，却仍然内斗不止。虽然几次打退了刘渊的进攻，但也已耗尽了最后的能量。刘聪继位后，又一次向西晋发动进攻。东海王司马越无力回天，抑郁而终。311年夏，刘聪发兵两万七千人再攻洛阳。晋军连败十二阵，阵亡三万余人。汉军趁势会合各路人马，攻克了洛阳，捉住了准备逃往长安的晋怀帝。刘渊的侄子刘曜带领将士烧毁了宫室庙宇，大肆抢夺金银珠宝，还对洛阳实行了大规模的屠城，杀死王公百官三万余人，史称“永嘉之乱”。
■连杀两帝，灭亡西晋
攻占洛阳后，汉军押着晋怀帝司马炽返回了汉国的都城平阳，刘聪封晋怀帝为会稽郡公，接着就软禁了他。在此期间，西晋幸存的大臣将秦王司马邺立为太子，并于长安设立了行宫。313年新年时，刘聪在平阳的朝堂上宴请群臣，见满朝大臣跪地朝拜自己，想着自己的卓越功绩，不禁沾沾自喜起来。当他看见坐在席间的曾经的君主晋怀帝时，便想侮辱他一番，于是就让晋怀帝身着仆人的青衣衫，为席间的各个臣子斟酒。西晋的旧吏见此情形，不禁悲从中来，当即大哭了起来。刘聪见了这样的场面，认为这些旧吏和晋怀帝的感情依旧很深，他们必定想着有一天能重兴晋朝，因此就动了杀机。他当即命士兵把席间的十几个西晋旧吏拉出去杀了，接着又逼晋怀帝喝毒酒自杀。
长安城得知晋怀帝被杀之事后，便拥立司马邺登基为帝，即晋愍帝。316年，汉军攻占了长安城，杀了晋愍帝，彻底灭亡了西晋王朝。