公元前二世纪，张骞出使西域以前，匈奴贵族势力伸展到西域，在焉耆等国设有幢仆都尉，向各国征收繁重的赋税，对这些小国进行奴役和剥削。当时，正在伊犁河流域游牧的大月氏，是一个著名的“行国”，40万人口。他们曾居住在敦煌和祁连山之间，被匈奴一再打败后，刚迁到这里不久。匈奴杀了月氏王，因此，大月氏与匈奴是“世敌”。
汉朝逐渐强盛后，便开始计划消除匈奴贵族对北方的威胁。汉武帝听有关大月氏的传言，非常希望能与大月氏国建立联合关系，又考虑西行的必经道路——河西走廊还处在匈奴的控制之下，于是公开征募能担当出使重任的人才。张骞便是在这一时期受命前往西域，寻找并联络曾被匈奴赶跑的大月氏国，合力进击匈奴。
公元前139年，张骞一行从长安启程，经陇西向西行进。一路上日晒雨淋，风吹雪打，环境险恶，困难重重。但他信心坚定，不顾艰辛，冒险西行。当他们来到河西走廊一带后，就被占据此地的匈奴骑兵发现。张骞和随从一共一百多人，全部被俘。
匈奴单于显然很明白张骞此行的目的，当然不会善待他们。单于把他们分散开去放羊牧马，并由匈奴人严加管制，还给张骞娶了一个匈奴女子为妻，一是监视他，二是诱降。但是，张骞坚贞不屈，虽被软禁放牧，但张骞一直在等待时机，时刻准备逃跑，念念不忘自己的使命。
十一年过去了，匈奴的看管终于放松了些。张骞乘机和他的贴身随从甘父一起逃走，离开匈奴的地盘，继续向西行进。由于他们仓促出逃，没有准备干粮和饮用水，一路上常常忍饥挨饿，干渴难耐，随时都会倒在荒滩上。好在甘父射得一手好箭，沿途常射猎一些飞禽走兽，他们饮血解渴，食肉充饥，一直奔波了好多天。
终于，他们越过沙漠戈壁，翻过冰冻雪封的葱岭（今帕米尔高原），来到了大宛国（今费尔干纳）。高鼻子、蓝眼睛的大宛王，早就听说汉朝是一个富饶的大国，很想建立联系。但苦于路途遥远，交通不便，故一直未能如愿。因此，当听说汉朝使者来到时，喜出望外，在国都热情地接见了张骞。他请张骞参观了大宛国的汗血马。在大宛王的帮助下，张骞先后到了康居（今撒马尔罕）、大月氏、大夏等地。但大月氏在闷姆河上游安局乐业，不愿再东进和匈奴作战。张骞未能完成与大月氏结盟夹击匈奴的使命，但却获得了大量有关西域各国的人文地理知识。
不幸的是，张骞在东归返回的途中，又一次被匈奴抓获。不过，他后来设计逃出，终于历尽千辛万苦，于13年后回到长安。这次出使西域，使生活在中原内地的人们了解到西域的实况，激发了汉武帝“拓边”的雄心，发动了一系列抗击匈奴的战争。
汉武帝派名将霍去病带重兵攻击匈奴，消灭了盘踞河西走廊和漠北的匈奴，建立了河西四郡和两关，开通了丝绸之路。并获取了匈奴的“祭天金人”，带回长安。
张骞不畏艰险，两次出使西域，沟通了亚洲内陆交通要道，与西欧诸国正式开始了友好往来，促进了东西经济文化的广泛交流，开拓了丝绸之路，完全可称之为中国走向世界的第一人。