原宗正刘向上奏书说：“郅支单于监禁杀害使者和官兵数以百计，事情沸沸扬扬于外国，损失威望，失去了别人的敬重，各位大臣都为此忧愁。陛下发怒想诛杀他，一直没有忘怀。西域都护甘延寿、副校尉陈汤秉承圣明的旨意，倚靠神灵的保佑，统率百蛮的君主，带领有城镇之国的军队，出生入死，进入无人能到的地方，才踏平康居，攻破五道城墙，拔下歙侯的旗帜，斩下郅支单于的脑袋，悬扬旌旗于万里之外的地方，远播威名于昆山之西，洗刷了谷吉的耻辱，建立了卓越的功勋，万夷畏惧屈服，没有不震动的。呼韩邪单于看到郅支单于已被杀，又喜又怕，向风慕义驱驰前来，稽拜表示归附，愿意守护北藩，历代称臣。他们建立了千年的功业，保证了万代的平安，群臣中功勋没有比他们再大的了。往昔周朝大夫方叔、吉甫为周宣王诛杀了殓狁而使百蛮都来归顺。《诗》上说： ‘车马喧喧，有如雷霆，既显贵又诚信的方叔，征讨殓狁，蛮荆也因畏惧威力而来臣服。’《易》上说：‘消灭敌人首领的人值得表扬，因为他可以获得更多不同族类的人。’这是赞美那些诛杀了罪魁祸首可以使其它不愿顺服的人前来归顺的人。现在甘延寿、陈汤诛杀所带来的震动，即使是《易》上所说的消灭首领，《诗》上所说的有如雷霆也比不上。评论大的功绩应不计较小的遇错，推举绝美的东西应不顾捆小的瑕疵。《司马法》上说‘赏赐军队不超过一个月，，希望立功的人快速得到他们行善事的报酬。这是由于重视战功，重用人才的缘故。吉甫回去后，周王赐给他丰盛的东西，《诗》上说：‘吉甫因为被宴请，所以很高兴，他受到了那么多祝福，是因为他从镐地回来，功劳同曰月一样长久。’千里之外的镐地还认为遥远，更何况万里之外，他们的辛勤已是到了极点！甘延寿、陈汤不仅没有受到赏赐的回报，反而因义无反顾而取得的功劳受到委屈，长期受挫于刀笔小吏，这不是奖励有功之人、鞭策士兵的方法。以前齐桓公先有尊周的功劳，后来又有灭项国的罪责，君子就以功劳来掩盖过错而隐讳了他所行的错事。贰师将军李广利损失了五万人的部队，花去了亿万的费用，经历了四年的劳苦，却衹获得三十匹骏马，虽然斩下了宛王母鼓的脑袋，也不足以补偿耗费，而且他自己的罪恶也很多。孝武帝认为到万里之远的地方去征讨敌人，不应计较他的过失，就封拜两侯、三卿、二千石的官职爵位给了一百多人。现今康居国力强于大宛，郅支单于的号令重于宛王，他们杀害使者之罪大于大宛留住马匹的罪，而且甘延寿、陈汤没有烦劳汉朝的士兵，不用耗费一斗粮食，和贰师将军相比，功德胜于他百倍。而且常惠听从想要攻击匈奴的乌孙，郑吉迎接自己来归顺的曰逐王，还都裂土封爵。所以说武功和辛勤劳苦大于方叔、吉甫，将功补遇又优于齐桓公、贰师将军，他们所做事情的功劳又高于安远侯、长罗侯，但大的功劳没有得到表彰，小的过失却到处传布，臣下深为痛惜！应及时解除悬案让他们自由出入，免罪不究，给予尊宠封授爵位，用以奖励有功之人。”
于是天子下诏令说：“匈奴郅支单于背叛礼义，扣留并杀害了汉朝使者、官兵，深违事理，朕岂能忘记！之所以犹豫不决不去征讨，是因为难以兴师动众，劳苦将帅，因此一直克制忍着没有提这件事。如今甘延寿、陈汤看到可以乘机行事，就乘着时间的便利，集结有城镇的各国，擅自假托皇帝命令用兵去征讨敌人，依靠天地和宗庙的神灵保佑，征讨郅支单于，斩得他的脑袋，以及板氏夫人、显贵、名王和其他一千多人。虽然他们背离了道义违反了国法，但国内没有烦劳一人服兵役，没有动用国库的贮藏，借敌人的粮食用来供给部队的所用，建立功勋于万里之外，威力震动百蛮，名声速扬四海。为国家除去残暴，断绝兵事的根源，边境得以安定。然而仍避免不了死伤的忧患，罪责应当在于遵守法令，朕深为哀怜这件事！特赦免甘延寿、陈汤的罪过，不要追究了。”韶令公卿讨论封赏的事。讨论的人都认为宜按军法捕杀单于令。匡衡、石显认为“郅支本来是丧失国家逃亡在外，衹在无人的地方盗用名号，并非是真的单于。”元帝就按照安远侯郑吉的旧例，封他们千户食邑，匡衡、石显又抗议。于是就封甘延寿为义成侯，赐给陈汤关内侯的爵位，每人赐给食邑三百户，再赐给黄金一百斤。祭告上帝、宗庙，大赦天下。授任甘延寿为长水校尉，陈汤为射声校尉。
甘延寿升任为城门校尉，，护军都尉，薨于官位上。成帝刚登帝位，丞相匡衡又上奏道：“陈汤以二千石官员的身份奉命出使，不待请命就行事于蛮夷中，不严格要求自己以为部下的榜样，反而自取从康居夺得的财物，警告官员们不要再重新验证边远地区的事。即使事在赦免以前，还是不适合当官。”陈汤因此被免官。
后来陈汤上书说康居王送来侍奉皇帝的儿子并不是王子。经过审查核实，确实是王子。陈汤被关进监狱应当处死。太中大夫谷永上奏书为陈汤辩冤说道：“臣下听说楚国有子玉得臣，晋文公因为他而坐不安稳；趟国有廉颇、马服，强大的秦国不敢图谋井陉；近代汉朝有郅都、魏尚，匈奴就不敢越过沙漠南下。从这些情况来看，胜敌的将领是国家得力的武臣，不能不重视。所以‘君子听到军鼓声，就想到能够率兵作战的大臣，。臣私下认为关内侯陈汤，以前以副都护身份出使西域，愤恨郅支单于没有人道，忧虑君王不能给他以惩处，越想越愤怒，见义勇为的精神一下爆发，突然间率领军队急驰而行，横穿乌孙，集合于都赖水上，攻破了三层城墙，斩下了郅支单于的脑袋，报复了十年没有能诛杀他的怨仇，洗雪了边境官兵往日的耻辱，威风震动了百蛮，武功远扬四海，汉朝建立以来，征讨外国的将领，还未曾有过这样的情景。现在陈汤因为所说的事情有误而犯法，被关在牢裹很久了，很长时间还不能判决，执法的官员想对他使用大辟的刑法。往日白起任秦国将领，南面攻下郢都，北面坑杀趟括，因为一点小小的过错，就被赐死于杜邮，秦国百姓为他哀痛，没有不流泪的。现在陈汤亲自带着武器，流血转战于万里之外的地方，以战功献祭给祖庙，呈告给上帝，武士没有不仰慕他的节义的。因为陈说事情而犯罪，并没有很大的罪恶。《周书》上说：‘牢记别人的功劳，忘记他人的过错，就适合做君主了。’况且犬马为人劳苦了，还可以得到给它们盖窝棚的报答，更何况国家的有功之臣呢！私下担心陛下忽略了军鼓的声音，不能体察《周书》的含义，而忘了盖窝棚的恩施，以庸臣来对待陈汤，最后听从了官吏的决议，让百姓也有秦国百姓耿耿于怀的怨恨，并不是鞭策以身赴难的臣子的方法。”奏书呈上去后，天子就放出了陈汤，取消他的爵位而成为普通士兵。