几年以后，昭帝去世，苏武因曾以中二千石的身份参与朝臣迎立宣帝的计谋，被赐给关内侯的爵位和三百户的食邑。过了很长时间，卫将军张安世推荐苏武熟悉过去的典章制度，奉命出使不辱使命，昭帝生前常常提到这些。宣帝立即征召苏武在宦者署听候命令，苏武多次进见宣帝，又任右曹典属国。因为苏武是以有节操著名的老臣，宣帝命令他每逢初一、十五入朝，给予祭酒的尊号，非常优容、尊宠他。
苏武所得赏赐的财物，全都赠送给兄弟和旧友，家里不蓄积财产。皇后的父亲平恩侯许伯、宣帝的舅舅子昌侯王无故和乐吕侯王武、车骑将军韩增、丞相魏相、御史大夫丙吉都很敬重苏武。苏武年事已高，儿子苏元又犯罪被杀，宣帝很可怜他，就询问左右大臣：“苏武在匈奴那么长时间，难道没有生子？”苏武通过平恩侯向宣帝陈述：“当初从匈奴动身回来时，我的匈奴族妻子正好生下一个儿子，叫苏通国，刚好有音信传来，希望能通过使者用财物把他赎回来。”宣帝同意了。后来苏通国随使者回来，宣帝任命他为郎。又任用苏武的侄子为右曹。苏武终年八十多岁，于宣帝神爵二年病死。
宣帝甘露三年，单于开始入塞朝拜汉朝皇帝。宣帝思念那些辅佐自己的大臣的美德，便令人把他们的形体相貌画在麒麟阁上，并注明他们各自的官职、爵位和姓名，衹有霍光不注名字，以示尊崇，称为大司马大将军博陆侯霍氏，以下依次为：卫将军富平侯张安世，车骑将军龙额侯韩增，后将军营平侯赵充国，丞相高平侯魏相，丞相博阳侯丙吉，御史大夫建平侯杜延年，宗正阳城侯刘德，少府梁丘贺，太子太傅董望之，典属国苏武。这些人都功勋卓著品德高尚，为当世人所熟知，因此画名臣图来表彰他们，明确说明他们是汉宣帝中兴的辅佐之臣，可与辅佐周宣王中兴的名臣方叔、召虎、仲山甫媲美。共十一人，在《汉书》中各有传记。从丞相黄霸、廷尉于定国、大司农朱邑、京兆尹张敞、右扶风尹翁归到名儒夏侯胜等，都能善始善终，扬名于宣帝之时，却不能列于名臣图中，由此可知辅佐之臣的选择标准。
赞曰：李将军诚实得好像粗鄙之人，口不善言辞，到死的那一天，天下人认识、不认识他的人都为之流泪，说明他对士大夫们是忠心诚信了。谚语说： “桃李不言，人们争相归趋，以致成小路。”这虽然是说小事，也可以喻大。然而李家三代以后的将领，为道家所忌讳，从李广到李陵，宗亲遭诛灭，可悲呀！孔子说的“志士仁人，有杀身以成仁，无求生以害仁”， “使于四方，不辱君命”，这些做人的道德标准，在苏武身上都体现出来了。