在李雄在成都稱王的同一年（公元304年），北方的匈奴貴族劉淵也反晉獨(dú)立，自稱漢王。

　　自從西漢末年起，有一部分匈奴人分散居住在北方邊遠(yuǎn)郡縣，他們和漢族人相處久了，接受了漢族的文化。匈奴貴族認(rèn)為上代多次跟漢朝和親，是漢朝皇室的親戚，后來(lái)就改用漢皇帝的姓——劉。曹操統(tǒng)一北方后，把匈奴三萬(wàn)個(gè)部落分為五個(gè)部，每個(gè)部都設(shè)部帥，匈奴貴族劉豹是其中一部的部帥。

　　劉淵是劉豹的兒子，從小讀了許多漢族人的書，力氣大，武藝高，能夠拉三百斤重的大弓。劉豹死后，劉淵繼承他父親的職位。后來(lái)，在西晉的成都王司馬穎（八王之一）部下當(dāng)將軍，留在鄴城，專管五部匈奴軍隊(duì)。

　　八王混戰(zhàn)開(kāi)始后，匈奴部落里一些貴族們?cè)谧髧?guó)城（今山西離石北）開(kāi)會(huì)商量。有個(gè)老年貴族說(shuō)：“我們匈奴從漢朝開(kāi)始跟漢人結(jié)為兄弟。經(jīng)過(guò)魏、晉兩個(gè)朝代，匈奴單于后代雖然有封號(hào)，卻沒(méi)有自己的尺寸土地，跟一般百姓沒(méi)有什么兩樣�，F(xiàn)在晉朝發(fā)生內(nèi)亂，自相殘殺。這正是我們匈奴人恢復(fù)地位的好時(shí)機(jī)��！”

　　大家都覺(jué)得他的主意對(duì)，叫誰(shuí)來(lái)帶頭呢？大家一議論，認(rèn)為劉淵有才能，威望高，推他當(dāng)單于挺合適。

　　貴族們派個(gè)使者到鄴城，把大伙兒的意思告訴劉淵，請(qǐng)他回來(lái)。劉淵很高興，就借口要回匈奴葬自己的父親，向司馬穎請(qǐng)假。司馬穎不同意，劉淵只好讓使者先回去，并且要五部匈奴集結(jié)兵力，向南移動(dòng)。

　　后來(lái)，晉朝的并州刺史司馬騰、將軍王浚聯(lián)絡(luò)鮮卑貴族攻打司馬穎，司馬穎失敗了，逃往洛陽(yáng)。劉淵向司馬穎要求回去帶匈奴兵馬來(lái)助戰(zhàn)，司馬穎才讓他走了。

　　公元304年，劉淵回到左國(guó)城，大伙兒擁戴他做大單于。他集中了五萬(wàn)人馬，親自率領(lǐng)南下，幫助晉軍攻打鮮卑兵。有人問(wèn)他，為什么不趁這個(gè)機(jī)會(huì)把晉朝滅掉，反倒去幫助晉軍呢？

　　劉淵說(shuō)：“要滅掉晉朝，還不是像摧枯拉朽一樣容易，但是晉朝的百姓未必會(huì)向著我們。我看漢朝立國(guó)的年代最長(zhǎng)，在百姓中影響大。我們的上代又是漢朝皇室的兄弟。現(xiàn)在漢朝亡了，我們用繼承漢朝的名義，也許可以得民心。”

　　大家聽(tīng)了，覺(jué)得是一個(gè)好主意。劉淵就宣布自己是漢王。

　　劉淵稱漢王后，很快攻下了上黨、太原、河?xùn)|、平原等幾個(gè)郡，勢(shì)力越來(lái)越大。一些勢(shì)力比較小的各族反晉力量也都來(lái)歸附劉淵。

　　公元308年，劉淵稱漢帝。第二年遷都平陽(yáng)（今山西臨汾西南），集中兵力進(jìn)攻洛陽(yáng)。洛陽(yáng)的老百姓雖然恨透腐朽的西晉王朝，但是也不愿受匈奴貴族的統(tǒng)治。所以劉淵兩次進(jìn)攻，都遭到洛陽(yáng)軍民的猛烈抵抗，不得不退兵。

　　那時(shí)候，八王中最后的一個(gè)王——東海王司馬越還在和一批大臣互相仇殺。晉朝留下的一點(diǎn)點(diǎn)兵力也消耗得差不多了。

　　后來(lái)劉淵死去，他兒子劉聰接替做漢國(guó)皇帝，又派大將劉曜、石勒進(jìn)攻洛陽(yáng)。洛陽(yáng)的軍民奮勇抵抗，但是畢竟寡不敵眾。公元311年，洛陽(yáng)城終于被攻陷，晉懷帝做了俘虜。

　　劉聰進(jìn)洛陽(yáng)后，殺了大批晉朝的官員和百姓，有一次，劉聰舉行宴會(huì)，讓晉懷帝穿著奴仆穿的青衣給大家斟酒。一些晉朝的遺臣看了，禁不住失聲痛哭。劉聰看晉朝遺臣還對(duì)懷帝這樣有感情，一發(fā)狠，就把懷帝殺了。

　　晉懷帝死后，在長(zhǎng)安的晉國(guó)官員擁立懷帝的侄兒司馬鄴繼承皇位，這就是晉愍（音ｍǐｎ）帝。

　　公元316年，劉聰攻下長(zhǎng)安。晉愍帝也遭到了懷帝同樣的命運(yùn)，在受盡侮辱后被殺。西晉王朝維持了五十二年，終于滅亡。

　　西晉滅亡之后，北方的各族人民（主要是匈奴、鮮卑、羯、氐、羌五個(gè)少數(shù)民族）紛紛起義，他們中間的上層分子乘機(jī)起兵，像李雄、劉淵一樣建立政權(quán)，前前后后一共出現(xiàn)十六個(gè)割據(jù)政權(quán)，歷史上稱為“十六國(guó)”（舊稱五胡十六國(guó)，胡是古時(shí)候?qū)ι贁?shù)民族的泛稱）。