劉漢帝國當時控有今河北、山東、河南、山西、陜西一帶，當政者劉聰是劉淵的第四子。建武元年(公元317年)十一月，晉軍將領、盤踞在洛陽一帶的趙固率兵突進到劉漢帝國首都平陽近郊。劉聰迅速做出反應，派遣太子劉粲與大將劉雅生率軍十萬實施報復性打擊。他企圖一舉消滅盤踞在洛陽的趙固，徹底解除這股來自南面的威脅。

十二月，劉粲不敢親自渡過黃河，而是派征北將軍劉雅生率軍渡河，攻擊洛陽。趙固無法堅守，往東逃奔陽城山(河南省登封市東北車嶺)。趙固逃到陽城山以后，趕緊派弟弟飛馬前往新鄭，請求上司李矩派兵救援。

公元318年年初，也就是在劉琨被段匹磾所殺、司馬睿登基前后，李矩命令自己的外甥、揚武將軍郭誦與河內郡(河南省沁陽市)太守郭默一起率軍西進，屯兵于洛口(河南省鞏義市東北)。郭默、郭誦派遣手下將領耿稚、張皮等選拔精銳敢死之士一千多人，趁夜渡過黃河。屯兵于厘城的偵查部隊發現了渡河而來的這支部隊，向劉粲報告。劉粲毫不在意，回復說：“我軍渡河以后，趙固望風逃竄，敵人正自顧不暇，焉敢前來？”

夜幕降臨，耿稚、張皮將這一千名勇士分為十隊，每隊約一百人，從十個方向如暴風驟雨一般向劉粲的中軍大營殺來。一時間，劉粲的中軍大營四面受敵，在黑暗中亂作一團，被殺傷者超過了半數。劉粲倉皇而逃，一直逃到陽鄉，留下了數不勝數的兵仗輜重軍馬，最后其大營也被晉軍占領。

黃河以南的劉雅生聽說這一消息，立刻領兵從洛陽撤出，火速渡河回救。他在營外構筑工事，與耿稚、張皮軍相持。天明以后，劉粲等人發現晉軍突擊部隊人數少得可憐，于是率領全軍向晉軍大營發起猛烈攻擊。這時，劉聰也聽說了劉粲兵敗的消息，派遣太尉范隆率領騎兵前來增援。

這場一千對十萬的苦戰就此展開。然而，這樣一場實力極其懸殊的戰斗，雙方竟然一直打了二十多天，匈奴十萬大軍硬是無法攻下這座堡壘！關于這場戰斗，《晉書·李矩傳》與《晉書·劉聰載記》的記載差異很大。《晉書·劉聰載記》稱，晉將聽說范隆的增兵以后，十分害怕。他們率五千兵馬突圍，被匈奴軍追擊，于河陽被殲滅三千五百人，投河而死的有一千多人，幾乎全軍覆滅。

不過，根據《晉書·李矩傳》的記載，晉軍突擊部隊總共才一千人。聽說匈奴來了援兵，李矩又選拔了三千壯士前往救援，乘船渡河迎接耿稚、張皮。劉聰命令部隊臨河列陣，用長鉤鉤船，不讓船只靠岸。雙方連戰數日，使這支救援部隊一直無法渡河。李矩只好又選擇部將格增率眾從其他地方偷偷渡過黃河，進入張皮的大營。

可能耿稚在聽說劉漢大軍增兵圍攻以后，就率眾突圍了，但張皮卻仍然堅守在營壘中待援。格增到來之后，與張皮一同組建一支一千人的精銳騎兵部隊，將營壘中剩下帶不走的牛、馬、糧草、兵仗等全部付之一炬，又一次趁著深夜殺出重圍，投奔到虎牢(河南省滎陽市汜水鎮)。劉漢大軍追之不及，只好撤回。

這次洛口之戰是一次以少擊眾的著名戰例。雖然由于后援不繼，最終沒能保住戰果，但此戰對于劉漢帝國打擊很大，尤其是張皮等人最后成功突圍，讓劉聰又氣又急，顏面盡失。因為此戰，李矩被東晉司馬睿任命為都督河南三郡諸軍事(即河南郡、滎陽郡、弘農郡)、安西將軍、滎陽太守，封修武縣侯。

洛口之戰深深地刺激了劉聰，而緊接著的一件天災又讓劉聰悲痛欲絕、精神恍惚。就在洛口激戰正酣之時，劉聰后宮失火，二十一個小皇子全部被燒死了！一夜之間痛失了二十一個兒子，這對劉聰的打擊比洛口慘敗還要大。消息傳來，劉聰當即昏倒到御床上，哽咽氣絕，經過眾人搶救很久，才蘇醒過來。

痛定過后，劉聰便想再娶妻生子，他聽說中常侍(宦官)王沈、宣懷都有美貌的養女，就將王沈14歲的女兒立為左皇后，宣懷的女兒立為中皇后。尚書令王鑒、中書監崔懿之、中書令曹恂等朝廷大臣們聯名上書勸諫，以為王沈等不過是刑余小丑，他家的婢女不能奉宗廟。劉聰看后大怒，立即命令兒子劉粲將三位大臣全部拉出去斬首。

新婚過后的劉聰也很快感到自己將不久于人世。他將兒子劉粲叫來說，這幾天你死去的弟弟白天總來，可能是來接我的吧？劉聰臨死前的打算是讓手握重兵的劉曜和石勒前來輔政。因此，他晉封劉曜為丞相、錄尚書，任命石勒為大將軍，由二人共同輔政。