元帝驾崩，成帝即位，征调张禹和郑宽中到长安，他们都因曾是太子的教师而赐爵关内侯，郑宽中食邑八百户，张禹食邑六百户。张禹任诸吏光禄大夫，官秩为中二千石，给事中，领尚书事。遣时，汉成帝的舅舅阳平侯王凤任大将军，名为辅政，实为专权，皇帝很年轻，为人谦让，爱好经学，敬重教师。当时张禹与王凤一起兼任尚书，内心感到很不安，几次托病上书请求辞职回乡，想回避与王凤共事。皇帝答覆说： “我年幼即皇位，很担心失误，你因道德高尚而成为我的教师，所以我把国政委托给你。你有什么可疑虑的，以致屡次请求辞职，是忘记了我们的师徒关系，还是回避什么流言蜚语？我没有听到任何有关你的传闻。你还是安心工作，仍总管政事，拿出孜孜不倦的精神，不要违背我的心意。”接着又加赏张禹黄金百斤、养食肉牛及上等好酒，令太官为张禹供给饮食，令侍医替他看病，还常派使者去慰问他。张禹深感不安，于是他又开始上朝。汉成帝河平四年，张禹继王商任丞相，封安昌侯。
张禹担任丞相六年，在成帝鸿嘉元年托言年老多病，请求辞官，皇上对他称赞再三，才特许他辞官。同时还赐给张禹安车驷马，黄金百斤，张禹辞官后回到他的住宅，每当初一、十五时就以列侯的身份参加朝见，皇上还给他加封了特进的官衔，按丞相的礼仪召见张禹，允许他选任从事史五人，又增加四百户的食邑。皇上先后赏给张禹数千万的财物。
张禹为人拘谨厚道，家裹以经商和农耕为业。张禹在官场上飞黄腾达，就在泾水、渭水流域买了四百顷良田，都是灌溉方便的膏腴之地。其他财物也都相当多。张禹本人精通和偏爱音乐，生活比较奢侈淫逸，他辞官回家后，经常到后堂拨弄丝、竹、管、弦等乐器。
张禹的学生中，比较有成就的是淮阳人彭宣，官至大司空，另一个是沛郡人戴崇，官至少府九卿。彭宣待人恭敬卑谦，讲究法度，而戴崇则和乐简易，聪明多才，两人的品行各不相。
张禹内心比较喜欢戴崇，对彭宣则敬而远之。戴崇每次拜访张禹时，常要求教师置酒设宴，与自己共享拨弦弄琴的乐趣。因此张禹每次都将戴崇带到后堂共同进餐，让妇女陪酒，令优人唱歌跳舞来助兴，直至深夜才散席。每当彭宣来拜访，张禹则在便坐接待他，与他谈今论古，用餐也非常简单，衹不过是一豆之肉，一卮行酒，从来不邀请彭宣到后堂。待到彭宣、戴崇得知老师以不同的方式接待自己时，都认为这是适合自己个性的。
张禹年老时，替自己建冢茔，修祠庙，他喜欢平陵肥牛亭这块靠近延陵的地方，于是向皇上请赐该地，皇上特许张禹在此建冢茔和祠庙，并韶令平陵郡太守将肥牛亭迁到其它地方。曲阳侯王根听闻此事后，向皇上谏争道： “肥牛亭是皇室在平陵寝庙祭祖的地方，张禹身为老师，不以谦让为重，过多考虑自己的利益，不顾徙坏旧亭而索求建墓之地，很不适宜。孔子曾对子贡说：‘你爱其羊，我爱其礼。，皇上应赐给张禹另外一块地方。”王根虽然是皇上的舅舅，但皇上对他不如对张禹敬重，尽管王根说得非常恳切，可是皇上并没有听从他的劝阻，最终还是把肥牛亭赐给张禹。王根因此嫉妒张禹得宠，于是多次上书诋毁张禹。而皇上却更加敬重、厚待张禹。张禹每次生病，皇上都要过问他的起居，甚至亲自去探望张禹。皇上驾到，使张禹感激不尽，叩首谢恩，并藉此机会向皇上禀报道：“我有四儿一女，对女儿比较偏爱，可是她远嫁张掖太守萧咸，我非常想念她，希望她离自己近一些。”皇上立即下令调萧咸任弘农太守。另外张禹的小儿子当时还没有官衔，皇上看望他时，他多次看他的小儿子，皇上领会他的意思之后，就在他的床前任命他的小儿子为黄门郎，给事中。
张禹虽然已经辞官，但仍以特进之官做皇帝的老师，每当国家有重大决策，皇上一定要询问张禹。成帝永始、元延之间，多次发生日食、地震，官吏和百姓纷纷上书说这是灾异感应，讥讽这是因王氏专权所造成的。皇上害怕灾异会多次出现，心裹惶恐不安，对大臣和百姓的上书没有明确表态，于是乘车到张禹府第，斥退左右侍卫，然后询问张禹对El食、地震的看法，并陈述了吏民对王氏的议论。张禹考虑到自己年事已高，后代势力弱小，自己平素与曲阳侯王根关系平淡，害怕被他所怨恨。于是对皇上说：“春秋二百四十二年间，共出现三十余次日食，五次地震，其间有时发生诸侯相互残杀，有时是夷狄侵扰中原地区，灾变之异难以预见。因此古代圣人很少谈论天命，也不说怪神。从子贡之辈起就不再探讨性命与天道的关系，何况浅见鄙儒所说的话！陛下应修整治国政策以适应时局，与百姓同享福祉，这才是天经地义的。新学小生误人子弟，不应信任重用他们，应用经术去判断他们所说的话。”因为皇上平时就很信任、宠爱张禹，所以张禹一席之言打消了皇上对王氏的疑虑之心。事后，曲阳侯王根及各诸侯王的子弟风闻张禹的言论，都喜形于色，开始接近张禹。张禹看到当时常发生异常现象，而且皇上又身体欠佳，于是他择吉曰洁身斋戒、露蓍草于星宿下，以接天之气，端正衣冠而立筮占卜，如果得到吉卦，就禀告皇上，如果得到凶卦，他就感到忧虑。
成帝驾崩后，张禹又侍奉哀帝。他在哀帝建平二年去世，谧号节侯。张禹有四个儿子，长子张宏继承父亲的爵位为安昌侯，宫至太常，属九卿之列。其余三个儿子都任校尉散骑各从官。
当初张禹做成帝的老师时，将皇上在学习经文时遇到的疑难问题记载下来，并加以注释，汇编成《论语章句》献给皇上。当时鲁扶卿和夏侯胜、王阳、萧望之、韦玄成都传授《论语》，并著书立说，观点各异。张禹先拜王阳为师，后投庸生门下学习《论语》，博采众家之长，独树一帜，最后脱颖而出，身份更尊贵。众儒生因此说：“如果想要融会贯通《论语》，就要学习张禹的文章。”此后，许多儒生都争相学习张禹的文章，其余各家学说渐衰。
孔光，字子夏，是孔子第十四代孙。孔子的儿子字伯鱼，名鲤；孔鲤的儿子字子思，名伋；孔伋的儿子字子上，名帛；孔帛的儿子字子家，名求；孔求的儿子字子真，名箕；孔箕的儿子字子高，名穿。孔穿的儿子名顺，孔顺担任魏国的丞相。孔顺的儿子名鲋，孔鲋曾担任陈涉的博士，死于陈地。孔鲋弟子襄为孝惠博士，长沙太傅。子襄的儿子名忠，孑L忠有二子：孔武和孔安国，孔武生延年。延年之子名霸，字次儒。孔霸之子就是孔光。安国、延年都以研治《尚书》成为武帝时的博士。安国官至临淮太守。孔霸也研治《尚书》，跟从太傅夏侯胜，在昭帝末年立为博士，宣帝时担任太中大夫，因为被选为教授皇太子经书，而升为詹事，高密相。这个时候，诸侯王的相都位在郡守之上。