张骞在那裹停留了一年多，回来时，沿着昆仑山、阿尔金山和祁连山，想从羌族地区返回，可是又被匈奴人抓住。在匈奴被扣留了一年多，恰逢单于死，匈奴内部混乱，张骞便与他的匈奴妻子及堂邑父一起逃回汉朝。漠武帝授予他为太中大夫，堂邑父为奉使君。
张骞为人坚强而有毅力，宽宏大量，待人真诚，少数民族人喜欢他。堂邑父是匈奴人，善于射箭，在穷困危急的关头，就射取禽兽作为食物。当初，张骞出行时有一百余人，去了十三
年，衹有他和堂邑父两人回来。
张骞亲身所到过的地方，有大宛、大月氏、大夏、康居等国，他听说在这些国家的旁边还有五、六个大国，他一一向汉武帝讲述了这些国家的地形和物产。所说的内容都在《西域传》裹。
张骞说：“我在大夏的时候，见到邛那个地方的竹杖和蜀郡产的细布，问他们从哪儿得到这些东西，大夏国人说： ‘是我国的商人从身毒国买来的。身毒国在大夏东南，大约有数千里地。那裹的风俗是过着定居的生活，和大夏相同，但地势低洼，潮湿，气候炎热。那里的人骑着大象打仗，国家滨临大水。，根据我的推测，大夏距离汉朝约有一万二千里，在汉朝的西南。现在身毒又在大夏东南数千里，有蜀郡的物产，这样看来，身毒距离蜀不远。现在出使大夏，从羌族地区经过，很危险，羌族人很厌恶汉朝；稍稍往北，则会被匈奴人俘获；如果从蜀郡走，当是方便的道路，又无侵扰。”漠武帝听说大宛和大夏、安息等国家都是大国，有许多奇怪的物产，又过着定居的生活，与汉朝的风俗相同。而兵力很弱，很看重汉朝的财物；其北方则是大月氏、康居等国，兵力强大，可以用赠送财物、给他们以好处的方法，诱使他们前来朝见汉天子。果真能够这样做并用道义的力量使他们归附汉朝，那么汉朝就可扩大疆土一万余里，有些民族的人到朝廷来，要经多重翻译才能通晓语言，一些奇风异俗的少数民族也前来归附，汉朝的威望德泽就可普及四海。汉武帝很高兴，认为张骞说得很有道理。于是下令通过蜀郡和犍为郡派遣探路的使者，分四路同时出发。一路从冉驰出发，一路从榨都出发，一路从徙和邛出发，一路从焚出发，各有一二千里路程。可是北方的通道为氏族和榨都夷所阻挡，南方的通道为岭和昆明所阻。昆明等少数民族没有君长，善于劫掠和盗窃。每每杀害过往的汉使，夺走财物，这条路终于没能打通。不过听说昆明西边大约千余里的地方，有乘象国，名叫滇越，蜀郡有些私自往来买卖货物的商人到过那儿。于是汉朝因寻求通往大夏的道路而开始与滇国往来。当初，汉朝想与西南夷通使，由于费用太多，停止了这项工作。及至张骞说可经西南夷通往大夏，汉朝才着手打通西南夷之路。
张骞以校尉的身份跟随大将军卫青出击匈奴，因为他了解水草分布的地方，军队才能不缺给养，于是封张骞为博望侯。这年是漠武帝元朔六年。两年以后，张骞作为卫尉，与李广将军一起从右北平出发抗击匈奴。匈奴包围李将军，漠军伤亡惨重，而张骞晚于约定的时间到达，按军法当处以斩刑，他用财物赎为平民。这一年，骠骑将军霍去病在西边打败匈奴，杀数万，直至祁连山。秋天，匈奴浑邪王率领他的部众投降汉朝。于是，从金城、河西走廊，沿祁连山直至盐泽一带空无匈奴。匈奴时或有侦察兵前来，但也为数很少。又过了两年，汉朝击退匈奴单于并赶往漠北。
汉武帝多次向张骞询问大夏等国的情况。此时张骞已失去了侯的封号，就回答道“我住在匈奴的时候，听说乌孙王名昆莫。昆莫的父亲难兜靡本来和大月氏都住在祁连山、敦煌一带，是个小国。大月氏攻打杀害了难兜靡，强占他的地盘，乌孙人逃亡投奔匈奴。难兜靡的儿子昆莫那时刚出生不久，傅父布就翎侯抱着他逃亡，途中将他放在草丛中，去为他寻找食物。回来时，见狼正在给他喂奶，又有乌鸦街着肉在旁边盘旋，以为昆莫是神，就抱着昆莫归附匈奴，单于喜欢他，将他抚养成人。昆莫长大后，单于把他父亲的民众交还给他，让他带兵打仗，昆莫屡次建立战功。那时，月氏已被匈奴打败，向西进攻塞王。塞王南巡迁往远方，月氏人便居住在塞王的地盘上。昆莫的力量壮大后，亲自请求单于允许他替父报仇，于是向西攻败大月氏。大月氏人再次西逃，迁往大夏人居住的地方。昆莫掠夺其民众，就留居在大月氏人的土地上，兵力逐渐强大起来，正好碰上匈奴单于死，于是不肯再入朝事奉匈奴。匈奴派军队攻打他，无法战胜，更认为昆莫是神而远离他。如今单于刚被汉朝打败，处于窘困的境地，而昆莫原来的地方无人居住。少数民族依恋故土，又贪心汉朝的财物，如果在此时多多地送些财物给乌孙，招引他们到束边来居住在原来的土地上，汉朝送公主给乌孙王作夫人，双方结为兄弟关系，根据以上对形势的分析，乌孙一定会听从我们的建议，那么造就等于切断了匈奴的右臂。联合了乌孙，自乌孙以西的大夏等国，都可招来而为您的外臣。”汉武帝认为张骞说得对，授予张骞中郎将的官职，率领三百人，每人马各二匹，赶着上万计的牛羊，随身携带价值数千万万的黄金和礼物，还有许多持节副使随行，出使乌孙。道路方便的话，就派持节副使出使乌孙旁边的国家。张骞到达乌孙后，将汉武帝的礼物送给乌孙王并转达了汉武帝的旨意，但未能获得乌孙王的明确表态。具体内容记载在《西域传》裹。张骞便分别派遣副使出使大宛、康居、月氏、大夏。乌孙王派翻译向导护送张骞。乌孙使者数十人，马数十匹随张骞回汉朝答谢汉武帝，趁机让他们察看汉朝的情况，了解到了汉朝的广大。
张骞返回汉朝，被授予大行官。一年多后，张骞去世。又过了一年多，他所派遣去通大夏等国的副使大都与这些国家的使节一同回到汉朝，于是西北各国开始了与汉朝的交通往来。不过由于张骞开辟了通往西域的道路，后来出使西域的人都仿效张骞，称博望侯，以此来取信于外国，外国人因此而信任他们。那以后，乌孙王终于与选公主结婚。
当初，汉武帝打开《易》书占卜，说：“神马当从西北来。”得了乌孙马觉得好，给它起名为“天马”。等到又得了大宛汗血马，它比乌孙马更加膘壮，便将乌孙马改名为“西极马”，称大宛马为“天马”。并且汉朝开始从令居向西筑塞，新设酒泉郡，以便于通往西域各国。汉朝于是增派使者到安息、奄蔡、牦轩、条支、身毒国。且漠武帝喜欢大宛马，出使西域的使者相望于道，一批多者数百人，少者百余人，所携带的东西，完全仿效博望侯张骞时的盛况。其后，随着对西域情况的曰益熟悉，每批使者的人数越来越少。汉朝时大概一年中使者多者十余批，少者五六批，远的八九年，近的几年就可往返。