公元308年五月，山東流寇王彌打敗西晉多支軍隊，到了洛陽，駐軍在津陽門。晉懷帝任命王衍負責征討的軍事。王衍和王斌等人帶兵出戰，西涼派來的猛將北宮純跟王斌說：“我看王彌的大軍，多是烏合之眾。只有王彌和他幾百精銳比較可怕。如果用輕騎沖破他的精銳，剩下的則不戰自潰。我所率領的西涼精騎，都是驍勇無畏的勇士。明天，我可以率領他們突破王彌的中軍。中軍一破，將軍可以全線出擊，盡情拼殺，王彌可破！”

第二天，北宮純率領他的二百精騎出陣。北宮純的騎兵都是鐵甲鎧馬，矢鏃不入。北宮純躍馬大呼，手持長戟向王彌中軍猛撲而來，猶如出籠猛虎。王彌中軍都是他東萊本地的勇士，一貫勇猛善戰，然而雖然廝殺多年，卻從未遇見西涼精騎，見到這樣的飛將，早已心膽俱裂。王彌左沖右殺，也不能阻止中軍的潰敗，于是北宮純的二百精騎如入無人之境。接著王斌全線出擊，晉兵呼嘯而上，于是王彌兵大敗，燒了建春門往東逃跑。王衍又派部將王秉追擊，在七里澗趕上王彌，再次打敗他。王彌帶著他的殘兵敗將，急急忙忙地渡過黃河，向西逃命。

王彌清點他的殘兵，剩下不到一萬人，是進入洛陽前的什之一二。堂弟王桑勸道：“我們長久作戰，將士都已精疲力盡。兄長應當投奔漢王，息戰一時以養兵蓄銳。”王彌嘆道：“我想見劉淵很久了。本來以為可以邀請他到洛都相見，不想今日不得不到左國城去見他。”便和王桑一道從軹關前往并州，投奔劉淵。漢王劉淵派遣大臣到左國城郊外迎接，傳話說：“我將親自到將軍下榻的館驛，拂掃床席，清洗酒杯，敬候將軍的到來。”

王彌到后，劉淵盛筵大宴群臣，為王彌接風，拜王彌為司隸校尉，拜王桑為散騎侍郎。

劉淵兒子劉聰率領漢軍南下，進逼陽城。王衍派北宮純率軍抵御劉聰。劉聰與北宮純對陣于河東。晉兵以西涼精騎為前鋒奮勇向前，劉聰不敵，大敗而退。

晉懷帝因為西涼精騎屢建大功，便下詔封涼州刺史張軌為西平郡公，張軌固辭不受。當時州郡的使者都已經不來京城了，唯獨張軌照樣派遣使者進貢，年年不絕。

秋七月，劉淵的大臣劉殷和王育建議劉淵不要偏守一方，應當命令部將四面出擊。劉淵采納諫言，于是親征入侵平陽。晉太守宋抽自知不敵，放棄平陽逃走。劉淵和劉聰合兵進逼河東，晉太守路述出戰，失敗后戰死沙場。于是平陽，河東，蒲阪等城都被劉淵攻下。劉淵然后遷都蒲子(今山西隰縣)。上郡的鮮卑酋長陸逐延和氐酋長單征都投降于漢。八月，晉太傅司馬越的大軍從鄄城轉到濮陽，但沒幾天又遷回到滎陽。

九月，王彌和劉淵的另一名大將石勒一道入侵鄴城，晉守將和郁棄城逃走。晉懷帝下詔讓豫州刺史裴憲駐軍白馬抵御王彌，車騎將軍王堪駐軍東燕抵御石勒，平北將軍曹武駐軍大陽防備在蒲子的劉淵。

冬十月，劉淵自稱大漢皇帝，大赦，改元永鳳。自此，第一個由匈奴人在中原建立的國家誕生，打開了公元四世紀五胡亂華的首頁。十一月，劉淵任命兒子劉和為大將軍，劉聰為車騎大將軍，族子劉曜為龍驤大將軍。

不久，晉并州刺史劉琨派上黨太守劉惇率領鮮卑兵馬攻壺關，漢鎮東將軍綦毋達戰敗。劉淵又命令石勒和劉靈以及閻羆等七將帶兵三萬人入侵魏郡、汲郡、頓丘。因為天下大亂，老百姓都聚集一塊修筑堡壘自保，看見石勒大軍來到，望風投降或依附漢軍的百姓多達五十馀壘。石勒都任命投降的民眾領袖為壘主將軍，選擇其中身強力壯的五萬人為軍士，其他人則讓他們照常過日子，嚴禁部隊私自劫掠，所以老百姓十分感懷。魏郡太守王粹兵敗逃往三臺，被石勒俘虜后殺害。

石勒繼而進攻趙郡，殺了冀州西部都尉馮沖。又在中丘進攻乞活將領郝亭和田禋，擊潰并殺了他們。