衛青，字仲卿，河東平陽（今山西省臨汾市西南）人。他的母親在平陽公主家做女仆，因丈夫姓衛，她就被稱為衛媼。平陽公主原號陽信長公主，是漢武帝的姐姐，因嫁與平陽侯曹壽（漢初名臣曹參之曾孫）為妻，所以也稱平陽公主。

衛媼生有一男三女，即兒子長君，長女君孺、次女少兒、三女子夫。丈夫死后，她仍在平陽侯家中幫傭，與同在平陽侯家中做事的縣吏鄭季私通，生了衛青。衛青在母親的關懷下渡過了童年。后來，他的母親感覺供養他非常艱苦，就把他送到了親生父親鄭季的家里。但鄭季的夫人根本看不起衛青這個私生子，讓他到山上放羊，鄭家的幾個兒子也不把衛青看成手足兄弟，隨意苛責。衛青在這樣的環境下生活，受盡了苦難，在他的性格形成上打下了深深的烙印。有一次，衛青跟隨別人來到甘泉宮，一位囚徒看到他的相貌后說：“你現在窮困，將來定為貴人，官至封侯。”衛青笑道：“我身為人奴，只求免遭笞罵，已是萬幸，哪里談得上立功封侯呢？”

衛青長大后，不愿再受鄭家的奴役，便回到母親身邊。平陽公主看到衛青已長成了一個相貌堂堂的彪形大漢，非常喜歡，就讓他做了自己的騎奴。每當公主出行，衛青即騎馬相隨。雖然沒有一官半職，但與在鄭家時的情景相比已是天壤之別。衛青聰明好學，漸漸學到了一些文化知識，懂得了一些上層階級禮節。他怨恨鄭家對他沒有一點親情，決定冒姓為衛，完全與鄭家斷絕關系。

公元前139年春，衛青的姐姐衛子夫被漢武帝選入宮中，衛青也被召到建章宮當差。這是衛青命運的一大轉折點。

衛子夫入宮不久，就有了身孕，引起了陳皇后的嫉妒。陳皇后就是漢武帝姑姑的女兒，當年曾讓他許下“金屋藏嬌”誓言的陳阿嬌，與漢武帝成親后，被立為皇后，但一直未能給漢武帝生一個兒子。她擔心衛子夫一旦生下的是個男孩，那就會被立為太子，而衛子夫也就會因為兒子的關系，青云直上，成為皇后。這對她的地位無異是一個很大的威脅。但是，眼下衛子夫正得漢武帝的寵幸，陳皇后對她不敢加害，就找母親大長公主訴屈。大長公主是漢武帝的姑姑，為了給女兒出氣，嫁禍于衛青。她找了一個借口，把衛青抓了起來，并準備處死。衛青當騎奴時結識的好友公孫敖聽到了消息，馬上召集了幾名壯士，趕往搶救，把衛青從死亡的邊緣奪了回來。另一方面，公孫敖還派人給漢武帝送信。漢武帝得知后，大為憤怒，索性召見衛青，任命他為建章宮監、侍中。不久，漢武帝封衛子夫為夫人，提升衛青為太中大夫。可以說，衛青是沾了他姐姐的大光的。

公元前129年，匈奴又一次興兵南下，前鋒直指上谷（今河北省懷來縣）。漢武帝果斷地任命衛青為車騎將軍，迎擊匈奴。從此，衛青開始了他的戎馬生涯。

這次用兵，漢武帝分派四路出擊。車騎將軍衛青直出上谷，騎將軍公孫敖從代郡（今河北蔚縣東北）出兵，輕車將軍公孫賀從云中（今內蒙古托克托東北）出兵，驍騎將軍李廣從雁門出兵。四路將領各率一萬騎兵。衛青首次出征，但他英勇善戰，直搗龍城（匈奴祭掃天地祖先的地方），斬首700人，取得勝利。另外三路，兩路失敗，一路無功而還。漢武帝看到只有衛青勝利凱旋，非常賞識，加封關內侯。

漢朝對匈奴的反擊，使得匈奴的進犯更加猖狂了。公元前128年的秋天，匈奴騎兵大舉南下，先攻破遼西，殺死了遼西太守，又打敗漁陽守將韓安國，劫掠百姓兩千多人。漢武帝派匈奴人敬畏的飛將軍李廣鎮守右北平（今遼寧省凌源西南），匈奴兵則避開李廣，而從雁門關入塞，進攻漢朝北部邊郡。漢武帝又派衛青出征，并派李息從代郡出兵，從背后襲擊匈奴。衛青率三萬騎兵，長驅而進，趕往前線。衛青本人身先士卒，將士們更是奮勇爭先。斬殺、俘獲敵人數千名，匈奴大敗而逃。

公元前127年，匈奴貴族集結大量兵力，進攻上谷、漁陽。武帝決定避實擊虛，派衛青率大軍進攻久為匈奴盤踞的河南地（黃河河套地區）。這是西漢對匈奴的第一次大戰役。

衛青率領四萬大軍從云中出發，采用“迂回側擊”的戰術，西繞到匈奴軍的后方，迅速攻占高闕（今內蒙古杭錦后旗），切斷了駐守河南地的匈奴白羊王、樓煩王同單于王庭的聯系。然后，衛青又率精騎，飛兵南下，進到隴西，形成了對白羊王、樓煩王的包圍。匈奴白羊王、樓煩王見勢不好，倉惶率兵逃走。漢軍活捉敵兵數千人，奪取牲畜一百多萬頭，完全控制了河套地區。因為這一帶水草肥美，形勢險要，漢武帝在此修筑朔方城（今內蒙古杭錦旗西北），設置朔方郡、五原郡，從內地遷徙十萬人到那里定居，還修復了秦時蒙恬所筑的邊塞和沿河的防御工事。這樣，不但解除了匈奴騎兵對長安的直接威脅，也建立起了進一步反擊匈奴的前方基地。衛青立有大功，被封為長平侯，食邑3800戶。

匈奴貴族不甘心在河南地的失敗，一心想把朔方重新奪回去，所以在幾年內多次出兵，但都被漢軍擋了回去。公元前124年春，漢武帝命衛青率三萬騎兵從高闕出發；蘇建、李沮、公孫賀、李蔡都受衛青的節制，率兵從朔方出發；李息、張次公率兵由右北平出發。這次總兵力有十幾萬人。匈奴右賢王認為漢軍離得很遠，一時不可能來到，就放松了警惕。衛青率大軍急行軍六、七百里，趁著黑夜包圍了右賢王的營帳。這時，右賢王正在帳中擁著美妾，暢飲美酒，已有八九分醉意了。忽聽帳外殺聲震天，火光遍野，右賢王驚慌失措，忙把美妾抱上馬，帶了幾百壯騎，突出重圍，向北逃去。漢軍輕騎校尉郭成等領兵追趕數百里沒有追上，卻俘虜了右賢王的小王十余人，男女一萬五千余人，牲畜有幾百萬頭。漢軍大獲全勝，高奏凱歌，收兵回朝。

漢武帝接到戰報，喜出望外，派特使捧著印信，到軍中拜衛青為大將軍，加封食邑8700戶，所有將領歸他指揮。衛青的三個兒子都還在襁褓之中，也被漢武帝封為列侯。衛青非常謙虛，堅決推辭說：“微臣有幸待罪軍中，仰仗陛下的神靈，使得我軍獲得勝利，這全是將士們拚死奮戰的功勞。陛下已加封了我的食邑，我的兒子年紀尚幼，毫無功勞，陛下卻分割土地，封他們為侯。這樣是不能鼓勵將士奮力作戰的。他們三人怎敢接受封賞。”漢武帝隨后又封賞了隨從衛青作戰的公孫敖、韓說、公孫賀、李蔡、李朔、趙不虞、公孫戎奴、李沮、李息、豆如意等。

經過幾次打擊，匈奴依然猖撅。入代地，攻雁門，劫掠定襄（今內蒙古和林格爾）、上郡（今陜西綏德縣東南）。公元前123年二月，漢武帝又命衛青攻打匈奴。公孫敖為中將軍，公孫賀為左將軍，趙信為前將軍，蘇建為右將軍，李廣為后將軍，李沮為強弩將軍，分領六路大軍，統歸大將軍衛青指揮，浩浩蕩蕩，從定襄出發，北進數百里，殲滅匈奴軍數千名。這次戰役中，衛青的外甥霍去病率800精騎首次參戰，取得了殲敵兩千余人的輝煌戰果。戰后全軍返回定襄休整，一個月后再次出塞，斬獲匈奴軍一萬多名。但是，右將軍蘇建和前將軍趙信與匈奴打了一場遭遇戰，漢軍死傷慘重，蘇建突圍逃回，趙信本是匈奴降將，兵敗后就又投降了匈奴。

在討論如何處置蘇建棄軍而逃的罪過時，有人建議將他斬首以建立大將軍的威嚴，有人認為蘇建是盡力而戰的，不應斬首。衛青認為自己身為皇親國戚，沒有必要再建立威嚴；自己本有權力可以處決部將，卻不敢擅殺。他要做一個人臣不敢專權的榜樣，于是把蘇建用囚車送回長安由皇帝處理。漢武帝赦免了蘇建的死罪，令其交納了贖金后貶為平民。

公元前121年，西漢對匈奴的第二次大戰役開始，由霍去病指揮，結果使漢朝完全控制了河西地區，切斷了匈奴與羌人的聯系。

為了徹底擊潰匈奴主力，漢武帝集中全國的財力、物力，準備發動對匈奴的第三次大戰役。公元前119年春，漢武帝召集諸將開會，商討進軍方略。他說：“匈奴單于采納趙信的建議，遠走沙漠以北，認為我們漢軍不能穿過沙漠，即使穿過，也不敢多作停留。這次我們要發起強大的攻勢，達到我們的目的。”于是挑選了十萬匹精壯的戰馬，由大將軍衛青、驃騎將軍霍去病各率精銳騎兵五萬人，分作東西兩路，遠征漠北。為解決糧草供應問題，漢武帝又動員了私人馬匹四萬多，步兵十余萬人負責運輸糧草輜重，緊跟在大軍之后。

原計劃遠征大軍從定襄北上，由霍去病率驍勇善戰的將土專力對付匈奴單于。后來從俘獲的匈奴兵口中得知匈奴伊稚斜單于遠在東方，于是漢軍重新調整戰斗序列。漢武帝命霍去病從東方的代郡出塞，衛青從定襄出塞。

大將軍衛青麾下，強將濟濟。李廣為前將軍，公孫賀為左將軍，趙食其為右將軍，曹襄為后將軍。衛青考慮到前將軍李廣年紀已高、運氣又不好，就沒讓他擔任先鋒，而是與右將軍趙食其兩軍合并，從右翼進行包抄。衛青自己率左將軍公孫賀、后將軍曹襄從正面進兵，直插匈奴單于駐地。

趙信向伊稚斜單于建議：“漢軍不知道厲害，竟打算穿過沙漠。到時候，人困馬乏，我們以逸待勞，就可以俘虜他們。”于是下令所有的糧草輜重，再次向北轉移，而把精銳部隊埋伏在了沙漠北邊。

衛青大軍北行一千多里，跨過大沙漠，與嚴陣以待的匈奴軍遭遇了。衛青臨危不懼，命令部隊用武剛車（鐵甲兵車）迅速環繞成一個堅固的陣地，然后派出5000騎兵向敵陣沖擊。匈奴出動一萬多騎兵迎戰。雙方激戰在一起，非常慘烈。黃昏時分，忽然刮起暴風，塵土滾滾，沙礫撲面，頓時一片黑暗，兩方軍隊互相不能分辨。衛青乘機派出兩支生力軍，從左右兩翼迂回到單于背后，包圍了單于的大營。伊稚斜單于發現漢軍數量如此眾多，而且人壯馬肥，士氣高昂，大為震動，知道無法取勝，就慌忙跨上馬，在數行精騎的保護下奮力突圍。向西北方向飛奔而去。

這時，夜幕已經降臨，戰場上雙方將士仍在喋血搏斗，喊殺聲驚天動地。衛青得知伊稚斜單于已突圍逃走，馬上派出輕騎兵追擊。匈奴兵不見了單于，軍心大亂，四散逃命。衛青率大軍乘夜挺進。天亮時。漢軍已追出二百多里，雖然沒有找到單于的蹤跡，卻斬殺并俘虜匈奴官兵19000多人。衛青大軍一直前進到真顏山趙信城（今蒙古烏蘭巴托市西），獲得了匈奴屯積的糧草，補充軍用。他們在此停留了一天．然后燒毀趙信城及剩余的糧食。勝利班師。

霍去病率領的東路軍，北進兩千多里，與匈奴左賢王的軍隊遭遇。經過激戰，俘獲了匈奴三個小王以及將軍、相國、當戶、都尉等83入，消滅匈奴七萬多人。左賢王敗逃而去。

這次戰役，漢軍打垮了匈奴的主力，使匈奴元氣大傷。從此以后，匈奴逐漸向西北遷徙，出現了“漠南無王庭”，匈奴對漢朝的軍事威脅基本上解除了。

漢武帝為表彰衛青、霍去病的大功，特加封他們為大司馬。

衛氏一門顯赫后，京城中有歌謠說：生男無喜，生女無怨，獨不見衛子夫霸天下。意思是說衛氏一門的顯貴全靠了衛皇后。其實不然，在兩漢時期，左右朝政的外戚大多是靠裙帶關系竅居高位的，而衛青、霍去病卻是出生入死，浴血奮戰，為國家做出了重大貢獻。正因為如此，即使后來衛皇后失寵，二人在朝廷的地位也絲毫未受影響。

家奴出身的衛青如今變成了貴極人臣的大將軍，朝中官員無不巴結奉承。這時，平陽公主寡居在家，要在列候中選擇丈夫，許多人都說大將軍衛青合適，平陽公主笑著說：他是我從前的下人，過去是我的隨從，怎么能做我的丈夫呢？左右說：大將軍已今非昔比了，他現在是大將軍，姐姐是皇后，三個兒子也都封了候，富貴震天下，哪還有比他更配得上您的呢。漢武帝知道后，失笑道：當初我娶了他的姐姐，現在他又娶我的姐姐，這倒是很有意思。于是當即允婚。時遷事移，當年的仆人就這樣做了主人的丈夫。這樣一來，衛青與漢武帝親上加親，更受寵信。但衛青為人謙讓仁和，敬重賢才，從不以勢壓人。

后來，漢武帝對霍去病恩寵日盛，霍去病的聲望超過了他的舅舅衛青，過去奔走于大將軍門下的許多故舊，都轉到了霍去病門下。衛青門前頓顯冷落，可他不以為然，認為這也是人之常情，心甘情愿地過著恬淡平靜的生活。

衛青率軍與匈奴作戰，屢立戰功，所得封邑總共有一萬六千三百戶。雖然戰功顯赫，權傾朝野，但從不結黨干預政事。他和霍去病不同，對士卒體恤較多，能與將士同甘苦，威信很高。最后衛青病死于公元前105年。

公元前106年，大司馬大將軍衛青去世，漢武帝命人在自已的茂陵東邊特地為衛青修建了一座象廬山（匈奴境內的一座山）的墳墓，以象征衛青一生的赫赫戰功。