秦漢時，匈奴始終是中原王朝北方的最大威脅。秦將蒙恬將匈奴擊敗，逃往漠北，十多年不敢南下。之后，匈奴趁楚漢相爭、無暇北顧再度崛起。在杰出領袖冒頓單于統率下，重新掌控中國西北部、北部和東北部地區。西漢王朝建立后，匈奴屢次入侵邊境，攻城屠邑，掠奪財物和人口，給西漢北方地區民眾帶來沉重的災難。

公元前200年，劉邦親率大軍進攻匈奴。雙方在白登山展開激戰，結果劉邦被圍七天七夜，幾乎被俘，后陳平以重金收買了匈奴首領，才得突圍。

自此，劉邦不再輕易發動戰爭，開始休養生息，發展生產。處理與匈奴關系上，劉邦采用婁敬的建議：在政治上和親;軍事上盡量避免與匈奴進行決戰。

漢高祖之后，文景二帝繼續推行休養生息政策，積極發展生產。

不過，匈奴反而認為西漢軟弱無能，結果越鬧越兇。

公元前140年，漢武帝劉徹登基，經過60多年休養生息，為武帝的戰爭動員和實施創造了條件。

十一年后，即公元前129年，漢武帝開始反擊匈奴，歷時三、四十年。

前127年(武帝元朔二年)，匈奴騎兵進犯上谷(今河北懷來東南)、漁陽(今北京密云西南)等地。武帝派遣衛青率大軍北上，出云中，沿黃河西進，對占據河套及其以南地區的匈奴樓煩王、白羊王所部進行突襲，全部收復了河南地。三年后，衛青率軍進入漠南，反擊匈奴右賢王;李息等人出兵右北平(今內蒙古寧城西南)，牽制單于、左賢王，策應衛青主力軍的行動。衛青出塞二三百公里，長途奔襲，突襲右賢王的王廷，打得其措手不及，狼狽北逃。漢軍俘敵一萬多人，凱旋歸師。徹底消除匈奴對京師長安的直接威脅。

翌年二月和四月，衛青兩度率騎兵出定襄(今內蒙古和林格爾西北)， 前后殲滅匈奴軍隊一萬多人，迫使匈奴主力退卻漠北一帶，遠離漢境。

前121年三月，霍去病率軍進擊河西走廊的匈奴。與匈奴軍鏖戰于皋蘭山下，連戰皆捷，殲敵近 九千人。同年夏，為了徹底聚殲河西匈奴軍，武帝再次命霍去病率軍出擊。為堤防東北方向的匈奴左賢王部，他又讓張騫、李廣等人率偏師出右北平，攻打左賢王，以策應霍去病主力的行動。此次斬殺敵軍三萬余人，共俘獲匈奴名王五人及王母、王子、相國、將軍等百余人，收降匈奴渾邪王部眾四萬，全部占領河西走廊地區。

但是，匈奴仍繼續南下襲擾。

武帝集中了精銳騎兵十萬人，分別由衛青、霍去病統率。另以步兵幾十萬，馬匹十余萬配合騎兵主力的行動。衛青、霍去病受命后，各率精騎5萬分別出定襄和代郡，沿東西兩路北進，決心在漠北與匈奴進行會戰。衛青一舉殲俘匈奴軍近二萬人。霍去病盡殲匈奴左賢王部，俘獲屯頭王、韓王以下七萬余人。

此次戰役，盡管漢軍付出很大代價，但共殲匈奴九萬余人，自此匈奴無力大舉南下。

武帝的反擊，從根本上摧毀了匈奴賴以發動騷擾戰爭的軍事實力，使匈奴軍事威脅解除。匈奴則損失慘重，失去水草豐盛、氣候溫和的河南、陰山和河西兩大基地，遠徙漠北苦寒之地，人畜銳減，走向衰落。匈奴國的衰落時期從伊稚斜單于至呼韓邪單于，經歷十八任單于，從漢武帝元鼎年間到漢元帝建昭三年(前36年)滅郅支單于為止。