漢武帝勵精圖治，“疇咨海內，舉其俊茂，與之立功”，于是“群士慕向，異人并出”，形成了歷史上引人注目的群星璀璨的文化景觀，史稱“漢之得人，于茲為盛”。在漢武帝時代的英雄譜中，張騫和蘇武的姓名位于前列，誠如班固所說：“奉使則張騫、蘇武”，他們不辱使命，譜寫了全新的外交詩篇。

建元二年(前139)，張騫受命率眾100余人，出使大月氏。當時漢武帝聽說大月氏有報復匈奴之志，于是遣使前往，希望能夠形成合力夾擊匈奴的軍事聯盟。張騫西行途中遭遇匈奴人，被長期拘禁，10年左右才得以逃脫。他繼續履行使命，西越蔥嶺，行至大宛，抵達已經定居在今烏茲別克斯坦阿姆河北岸的大月氏。然而大月氏因新居地富饒平安，無意東向與匈奴進行復仇戰爭。張騫只得東返，在歸途中又被匈奴俘獲，扣留一年多，乘匈奴內亂，方于元朔三年(前126)回到長安。

張騫出行時隨從百余人，13年后，只有兩人得以生還。他親身行歷大宛、大月氏、大夏、康居諸國，又對附近五六個大國的國情細心調查了解，回長安后將有關信息向漢武帝作了匯報。張騫的西域之行，以前后13年的艱難困苦為代價，使中原人得到了前所未聞的豐富的關于西域的知識，同時使漢王朝的聲威和漢文化的影響傳播到了當時中原人世界觀中的西極之地。雖然不能說在張騫之前中土與西域沒有交往，然而他作為以中原大一統王朝官方使者的身份開拓域外交通通路的第一人，對于中西交通發展的功績，確實有“鑿空”的意義。

漢武帝元朔六年(前123)，張騫跟隨大將軍衛青出擊匈奴。因為了解地理情勢，熟悉水草資源，他以行軍向導的身份，為遠征軍的勝利提供了交通方面的重要保障。加之此前有遠使絕國之功，張騫被封為博望侯。張騫又以對西域地區地理人文的熟悉，建議漢武帝聯合主要活動地域在今伊犁河流域的烏孫。漢武帝于是拜張騫為中郎將，率300人出使烏孫。張騫的副使還曾經前往大宛、康居、月氏、大夏等國。烏孫遣使送張騫歸漢，又獻馬報謝，后來終于與漢通婚，一起進軍擊破匈奴。漢軍擊破匈奴，打通河西通道之后，漢武帝元狩四年(前119)，張騫再次奉使西行，試圖招引烏孫東歸。這一目的雖然沒有實現，但是通過此行，加強了漢王朝和西域各國之間的聯系。

由于張騫的努力，西域與漢帝國建立了正式的聯系。此后，漢與西域的通使往來十分頻繁，民間商貿也得到發展。張騫在西域地區享有很高的威望。后來的漢使，多稱“博望侯”以取信于諸國。西域地區50國接受漢帝國的封贈，佩帶漢家印綬的侯王和官員多至376人。而康居、大月氏、安息、？賓、烏弋等絕遠之國也有使者頻繁往來，據說一時諸國“莫不獻方奇，納愛質”(《后漢書？西域傳》)，于是“異物內流則國用饒”(《鹽鐵論？力耕》)。傳說許多西域物產，如葡萄、苜蓿、石榴、胡桃、胡麻等，都是由張騫傳入中土，這樣的說法未必完全符合史實，但是張騫對正式開通絲綢之路的首功，卻是不能磨滅的。

張騫在中亞的大夏時，曾經見到邛竹杖和蜀布，得知巴蜀有西南通往身毒的道路。“身毒”是印度的古譯名。漢武帝根據這一發現，在元狩元年(前122)派使者從巴蜀啟行，試圖由此實現和西域的交通。于是，漢王朝和當時稱作“西南夷”的西南地區滇、夜郎等部族的文化聯系逐漸密切起來。這條道路，有人稱之為“西南絲綢之路”。