建昭三年，陈汤和甘延寿出使西域。陈汤为人沉着勇敢有大谋，有很多策略，喜好建立卓越的功勋，每次经过都城小镇，高山大河，常常要爬到高处去看一看。接到出使外国的差事后，就同甘延寿谋划说道：“夷狄畏惧服从大部落，这是他们的天性。西域本来属于匈奴，现在郅支单于威名远播，侵犯欺凌乌孙、大宛等国，常替康居出谋划策，想降服它们。如果能得到这两个国家，北部攻打伊列，西面攻取安息，南面排济月氏、山离乌弋，几年之内，有都城的几个国家就会形势危急。而且他们的人都剽悍，喜欢打仗，经常取得胜利，如果长期放纵他们，一定会成为西域的隐患。郅支单于虽然所在的地方相当遥远，蛮夷没有坚固的城墙和强劲的剑弩用来自守，如果发动屯田的官兵，率领乌孙的部队，一直打到他们城下，他们逃亡又没有可去的地方，坚守又不能白保，千载功业可以一朝而成。”甘延寿也认为是这样，就准备上奏请示这件事，陈汤又说：“国家大事都要让公卿讨论，非凡的策略是凡人所想像不到的，事情一定不能得到准许。”甘延寿犹豫着没有听从。正好他长时间有病，陈汤独自假托朝廷命令调发有城镇的各国军队以及车师国戊己校尉屯田的官兵。甘延寿知道后，惊慌地爬起床，打算阻止他。陈汤发怒了，按住剑叱责甘延寿说：“部队已经集合了，你想坏大家的事么？”甘延寿于是只好听从他。部署行军的阵式，增设扬威、白虎、合骑三校，汉兵、胡兵合起来共四万多人，甘延寿、陈汤上奏自我弹劾假托皇帝命令，陈述用兵情况。
当天他们就带领军队分道前进，分为六校，其中三校从南道越过葱领从小道到大宛，另外三校由都护自己率领，从温宿国出发，经北道进入赤谷，过了乌孙，到达康居边界，一直到了阗池的西面。而康居的副王抱阗率领几千骑兵，进犯赤谷城东，杀害抢夺了大乌孙王的一千多人，抢走很多牲畜和财产。又在后面同汉朝军队遭遇，抢夺走了后面部队相当多的辎重。陈汤放出胡人军队攻打他们，杀了四百六十人，得到了他们所抢走的四百七十名百姓，交还给丫大乌孙王，所得到的马、牛、羊就用来供给军用。还俘虏了抱阗的显贵伊奴毒。
到了康居的束部边界，陈汤命令军队不得进行抢掠。暗中把康居的显贵屠墨叫来相见，向他说明汉朝的威势和信誉，并同他饮酒结盟后就放他回去了。从小道带领军队前进，到了离单于城大约六十里的地方就停止前进并扎下营寨。又捕捉到了康居的显贵贝色的儿子开牟，让他作为向导。贝色的儿子也就是屠墨母亲的弟弟，他们都怨恨单于，因此很详细地知道了郅支的情况。
第二天又带领军队前进，离城还有三十里，就停下扎营。单于派使者来问汉朝军队为何而来，答道：“单于上书说现在处境困难，愿意归附汉朝，亲自入汉朝朝见。天子哀怜单于离开匈奴的广阔国土，在康居受到委屈，所以派都护将军来迎接单于的妻子和儿女，恐怕惊动了您的左右，因此军队不敢到城下。”使者几次往来互相通报情况。甘延寿、陈汤于是责备单于道：“我们为了单于远道而来，而到现在还没有有名的王侯大臣来见将军接受命令，单于怎么能这样忽略大计，失去主人对待客人的礼仪呢！军队远道而来，人马都相当疲劳，粮草估计也将完了，恐怕不能自行还军了，希望单于同大臣审慎考虑计划安排。”
第二天，军队向前到达郅支城的都赖水上游，离城有三里，停下安营布阵。望见单于城上立有五彩旗帜，几百人披着锁甲登城守备，又派出百余名骑兵往来奔驰于城下，步兵百余人在城门两边像鱼鳞一样布下阵式，讲授操演用兵的方法。城上的人还招呼汉军说：“来跟我斗！”一百多名骑兵奔驰着冲向营地，营地的士兵都拉满弓指向骑兵，骑兵就引退了。漠军几次派官兵射击城门的骑兵和步兵，骑兵和步兵都进去了。甘延寿和陈汤命令军队听到鼓声后都逼近城下，从四面围住城，各有自己的任务，有的挖濠沟，有的堵塞城门，拿盾牌的人在前面，拿刀戟弓剑的在后面，向上射击城楼上的人，楼上的人就跑到了楼下。在土城外面还有一座木城，敌人从木城中射击，很杀伤了一些外面的人，外面的人就用柴草烧了木城。夜裹，几百名骑兵打算突围，被迎头射死。
刚开始，单于听说汉朝军队到了，想逃走，但怀疑康居怨恨自己，会作为漠军的内应，又听说乌孙各国都派了军队，自以为没有地方可去了。郅支单于出来后又重新回去，说：“还不如坚守城池。汉军远道而来，不能进攻得很久。”单于就披上镗甲站在楼上，各位辟氏夫人有几十人都用弓箭射杀城外的人。城外的人射中了单于的鼻子，几十个夫人也多被射死。单于下楼骑上马，转战到单于的内室。夜晚过了一半，木城被穿透了，裹面的人退入土城，登上城楼呼喊。当时康居的军队有一万多骑兵分为十多处，四面围绕着城墙，也互相应声相和。夜晚，几次奔袭汉军营地，没有成功，就退回去了。等到天亮，城四面放起了火，官兵高兴起来，大声呼喊追逐敌人，鸣釭敲鼓震动大地。康居兵退走了。汉军就从四面推着大的盾牌，一同进入土城中。单于男女一百多人跑进他的内室。汉兵就放火，官兵争着进入内室，单于受伤而死。军候假丞杜勋砍下了单于的头，得到了汉朝使者的两个符节以及谷吉等所带的帛书。所有抢得的东西都给予本人。一共斩杀丁关氏、太子、名王以下一千五百一十八人，俘虏了一百四十五人，收降了一千多人，把他们都分给了有城市的各国所派出的十五个王。
于是甘延寿、陈汤上奏书说：“臣等听说天下的大道理，应当是天下一统，以前有唐和虞，现在有强大的汉朝。匈奴呼韩邪单于已自称是北藩，衹有郅支单于反叛对抗，没有受到惩罚，大夏以西的地方，都以为强大的汉朝不能使郅支单于臣服。郅支单于残酷毒害百姓，罪大恶极通达到上天。臣甘延寿、陈汤率领仁义的军队，替天诛伐，依赖陛下的神灵，阴阳调和，天气晴朗明丽，冲锋陷阵打败敌人，砍了郅支单于的头以及杀死了名王以下的人。应把所砍的头悬挂在稿街蛮夷的官邸间，用以昭示万里之外的人，让他们明白违犯强大的汉朝的，即使再远也一定要诛杀。”事情被下到司法部门处理。丞相匡衡、御史大夫繁延寿认为“郅支单于以及名王的头周游各国，蛮夷没有不知道的。《月令》上说春天是‘掩埋尸骨’的时候，还是不要悬头为好。”车骑将军许嘉、右将军王商认为“春秋时夹谷会盟，优施讥笑君主，孔子杀了他，当时正是盛夏，被斩的手和足分不同的门运出。应悬挂十天后再掩埋。”皇上下诏令说将军的意见正确。
起初，中书令石题曾经想把姐姐嫁给苴丝寿，甘延寿没有同意。等到丞相、御史也憎恨他们假托皇帝命令行事，都不赞许陈汤。陈汤平时比较贪婪，所缴获的财物进入汉界后多不依法上交。司隶校尉寄信给道上的官员，逮捕官兵来审查这件事。陈汤就上奏书说道：“臣下同官兵一同诛杀郅支单于，幸亏能把他们消灭，军队万里之外得胜归来，应有使者在路上迎接犒劳。现司隶逆其道而行，逮捕官兵审查，这是为郅支单于报仇啊！”皇上立即派出官兵，命令各县在路上备好酒食犒劳路过的军队。回到京城后，评论功劳，石显、匡衡认为“甘延寿、陈汤擅自假托皇帝命令兴师动众，有幸没有被诛杀，如果再封爵位赐食邑，那么以后奉命的使者就会都争相想冒着危险以取得侥幸，在蛮夷中惹起事端，给国家带来灾难，这个头不能开。”元帝内心嘉许甘延寿、陈汤的功劳，但难以违背匡衡、石显的意见，此事很长一段时间没有决定。