在楚汉战争时期，匈奴冒顿单于乘机扩张势力，控制了中国东北部、北部和西部广大地区，建立起统一的奴隶主政权和强大的军事机器。
西汉初年，匈奴冒顿单于征服西域，设僮仆都尉，向各国征收繁重的赋税。匈奴还以西域作为军事上的据点和经济上的后盾，经常侵占汉朝的领土，骚扰和掠夺中原居民。
西汉王朝的统治者在同匈奴斗争的过程中，逐渐认识到西域的重要性，特别是在汉武帝即位之后。建元二年（前139 年），继位刚满三年的汉武帝更是雄心勃勃，在发会稽兵经略东越的同时，和谋臣们计议如何对付强敌匈奴，报复雪耻，改变屈从的地位。
这时，汉武帝从匈奴降人的口中得到一个使他振奋的消息。他听说在二三十年前，敦煌和祁连山一带有一个以游牧为业的月氏国，人口多达四十余万。由于人多势众，国力强大，所以一向不把匈奴人放在眼里。而匈奴的冒顿单于在很小的时候就曾经在月氏做过人质，后来冒顿率兵打败了月氏。冒顿单于死后，继任的老上单于更是一不做二不休，不仅再次击败月氏，而且还杀死了月氏王，并且把他的头颅做成酒器以饮酒扬威。
被逼无奈的月氏人有一部分被迫离开世代生活的居住地，心里充满了怨恨，但他们无能为力，只好含着眼泪朝西长途跋涉。到了天山北麓的伊犁河流域，月氏人才停顿下来，得以重整旗鼓，重建家园。这部分月氏人被称作大月氏，而留在敦煌祁连山故地的月氏人被称作小月氏。
可是好景不长，大月氏受到了匈奴支持的乌孙人的攻击，大月氏人只好再次向西南迁到妫水流域。在那里，他们征服了大夏国并定居下来。西迁的大月氏有报匈奴世仇之意，但一直苦于无人相助。
汉武帝听后跃跃欲试。他决定沟通与西域的联系，想联合大月氏夹攻匈奴，“断匈右臂”。所谓西域，是指后来的敦煌以西、葱岭内外的广大地区。后来由于交通益广，在葱岭以西、今中亚细亚一带，也概称西域。西域当时有36 国，人口最多的60 万，最少的只有几万人。
秦末、汉初冒顿单于侵入西域后，西域大部分国家都臣服于匈奴。
匈奴设“童仆都尉”管理他们，向他们征收赋税。这个地区南望祁连山，北濒合黎山、龙首山和大沙漠，是当时东西方往来的咽喉。当时，西域对汉王朝来说，是一个神秘的未知地区。而从中原到塔里木盆地和更西的世界，必经一条东南至西北走向的狭长地带，这便是河西走廊。
为了切实地了解河西以外的情况，更主要是寻找远在异域的战略盟友，汉武帝决定派人到两部走一趟。而汉武帝就必须选派一个坚忍不拔、不畏艰险的大智大勇的人前往。所以汉武帝开始公开招募。
这个消息刚一传出去，朝廷内外便开始议论纷纷。面对西方那一片未知的异域和生死未知的征途，有一名默默无闻的郎官挺身而出，自愿出使，去实现汉武帝的大胆设想，这个人便是张骞。
张骞是汉中郡城固人。汉武帝建元元年（前140 年）为郎，就此成为汉武帝近卫军的一员。但不久他就发现，郎官位虽荣显，却只处于官吏候补地位，机会较少而竞争者很多，有些人头发都花白了，却仍在苦苦期待。
不甘平庸的他正在努力寻找机会，可是他毕竟很年轻，成为官吏是遥不可及了。这时，正好汉武帝下诏募招能出使西域者，他便想，与其坐等白头，不如冒险西行。
于是，他面对这一项极为凶险的特别使命，经历了一番思想斗争后毅然站了出来，接受这一次希望与绝望共系、荣华与死亡为邻的命运挑战。张骞的智慧和胆识得到了汉武帝的赏识。于是，汉武帝任命张骞为大汉使者，出使西域。
建元二年（前139 年），张骞奉汉武帝之命，由一个归顺的“胡人”
堂邑父自愿充当向导和翻译，率领一百多人准备出使西域。
这时，汉武帝拿了符节叫道：“张骞。”
“微臣在。”张骞应声答道。
“朕把这汉节授予你，望你一定要想法完成使命。对西域各国要以义待之，不可以大国居之。”
