丙吉为人宽厚，不爱炫耀自己做的好事。自从刘询做了皇帝，丙吉绝口不提起以前自己曾救助过刘询，有恩于他，所以朝廷上没人知道他的功劳。地节三年，宣帝刘询立了太子，丙吉做太子太傅，几个月后，升迁为御史大夫。等到霍氏犯罪被诛杀，皇帝亲自处理政务，省去尚书先看奏书一事。逭时，掖庭服侍妃子们的一个名叫则的婢女让自己以前的做平民的丈夫上书皇帝，自己声称对刘询有保育之功。皇帝把奏章发给掖庭令，让他考查询问此事，这个名叫则的宫婢的供词中说以前的使者丙吉知道是怎么回事。掖庭令于是带着那个宫婢到御史大夫府让丙吉看看是否属实。丙吉认识那个婢女，对她说： “你曾经因为犯了养育皇曾孙不谨慎的罪遇而被罚鞭打，怎么能说你有功劳？衹有渭城的胡组、淮阳的郭征卿有功劳。”丙吉于是分别上书皇帝述说胡组等人以前供养皇帝是多么劳苦。皇帝韶令丙吉寻找胡组、郭征卿，二人都已死去，衹有子孙还在，都受到重赏。诏令赦免名叫则的婢女为平民，赏给她钱十万。皇帝亲自查问此事，然后才知道丙吉过去曾有恩于己，而一直不说。皇帝十分感激，认为丙吉真是一个大贤人，给丞相魏相诏书说：“朕没有显贵以前，御史大夫丙吉对朕有恩，他的德行真美啊。《诗经》上不是说过吗？‘没有什么对我有德的人不受到报答的。’朕封丙吉为博阳侯，食邑一千三百户。”临到受封时，西宣病了，皇帝怕西立死去无法加封，想赶到西吉活着的时候，派人拿着侯印去封侯。皇帝担心丙吉的病好不了，太子太傅夏侯胜对皇帝说：“他是不会死的。臣听说积阴德的人，一定会享受到那阴德带来的欢乐，还会延及子孙。现在丙室的阴德还没有获得报答，就病得这么厉害，造不是要命的病。”后来丙吉的病果然好了。丙古上书皇帝，坚决推辞，述说自己不应该靠这空名受赏封。皇帝回书说：“朕封你为侯，不是空名，而你上书送回侯印，却是会彰显我无德无义，知恩不报。现在天下没什么乱事，希望你集中精神，少思虑事情，多注意医药，好好将养自保。”五年之后，丙吉代替魏相做了丞相。
丙吉出身于治理监狱案件的小官吏，后来学习《诗经》、《礼》，明了其中大义。到他做了丞相之后，崇尚宽怀大度，好礼让他人。掾史有了罪遇，或有不称职的，丙吉总是给他们放长假，让他们自动去职，一直没有查办过。有的宾客对西童说：“您做了莲朝丞相，十分宽厚，而奸诈的官吏却乘机谋私利，做坏事，然而您却对他们没有惩办。”丙吉说：“凭我公侯大府，却去追究查办小吏，我感到太丢面子。”后来代替丙吉的人，便把这当成惯例，公侯之府不查办小吏，便从丙吉开始。
对待自己的属官掾史，丙吉总是替他们掩过扬善。西宣有一个驾车小吏爱喝酒，多次失职。曾有一次跟从丙吉出外，因酒醉吐在丞相车上。西曹主吏对丙吉说想赶走这个驭吏，丙吉说：“仅因为酒醉饭饱呕在丞相车上的过失就赶走他，让这个人以后如何容身处世？你就忍一忍，放过他吧，这也不过是弄脏了我车上的垫子。”终于没有赶走他。这个驭吏是边郡的人，熟知边塞报警警备等事。曾有一次出去，刚巧看见驿骑拿着赤白相间的信囊，是边郡报告敌人入侵的书信来了。驭吏便跟随着驿骑到公车打听消息，了解到敌人入侵了云中郡、代郡，立即赶回丞相府向丙吉报告情况，并建议：“恐怕胡虏所入侵的边郡，二千石的官吏中有老病经不起战乱的，应该预先探察。”丙吉认为他说得很有道理，于是便让束曹访察边郡的长吏，详细记录他们的身世经历等情况。这件事还没做完，皇帝下韶召见丞相、御史，询问胡虏所入侵的边郡的官吏，丙吉详细地予以回答。御史大夫仓促之间却不能迅速地回答，被皇帝责备了一顿。因此丙吉被皇帝看作是担忧边防，克尽职守的好丞相，管理下属官吏十分得力。丙吉于是叹道：“士没有不可容忍的人，他们的才能各有所长。假如我不是先听到驭吏的劝告，怎么会被称赞为勤劳尽力呢？”而掾史们听到这话，也更加佩服丙吉。
丙吉有一次外出，碰上清理道路的人打群架，路上躺着许多死伤者，丙吉经过旁边却不闻不问，身边的掾史感到很奇怪。丙吉等又往前走，碰上有人正在赶牛，牛喘着气吐着舌头。丙吉让停下车子，让骑吏去问道： “赶牛走了几里了？”掾史很怪丞相该问的不问，不该问的却问，甚至有的还讥讽丙吉，丙吉解释说：“百姓互相争斗，死伤了人，这是该由长安令、京兆尹去禁止追捕的事，岁末时我做丞相的考察他们的政绩功过，向皇上奏明情况，予以赏罚罢了。宰相不亲自处理小事，在道路上是不该询问的。正当春天季节，少阳秉持天地气候，不应该出现很热的天气，我恐怕被追赶的那头牛走得路不远，是因为天太热才喘气吐舌，造就是时令节气失调了，恐怕会有很大的灾害。作为三公的丞相要掌管调和阴阳的大事，是我应该忧虑的，所以我才询问牛喘的事。”掾史们都感到很佩服，认为丙吉是个知大体的人。
五凤三年的春天，丙吉的病严重了。皇帝亲自到病榻前问候丙吉，说： “假如您不幸死了，谁可以代替您呢？”丙吉辞谢道：“大臣们的行为才能，圣明的君主您最清楚，愚臣我不太了解。”皇帝坚持要问，丙吉只好顿首说道： “西河太守杜延年明晓法律，知道国家的旧事惯例，以前曾做遇十多年的九卿官，现在在西河郡很有政绩，名声很好。廷尉于定国执法公道，天下经他判决的人都感到不冤枉。太仆陈万年侍奉继母十分孝顺，做任何事都十分公正厚道。这三个人的才能都比我强，希望皇帝留心察访一下。”皇帝认为丙吉的话都很正确而答应了。等到丙吉死后，御史大夫黄霸做了丞相，征召西河郡太守杜延年入朝为御史大夫，正巧这时杜延年因年老辞官，又因病而免去了官职。起用廷尉于定国代替杜延年做御史大夫。后来黄霸死了，于定国做了丞相，起用太仆陈万年代替于定国做御史大夫，这几个人都很称职，皇帝认为丙吉有知入之明。
丙吉死后，赐谧号为定侯。他的儿子丙显承袭了爵位，甘露年间，因为犯罪被削爵为关内侯，官位至卫尉太仆。当初丙显年少时曾经做府曹小吏，曾经跟随着皇帝去高庙祭祀，到了做牺牲这一天，才派人出去取斋戒的衣服。丞相丙吉大怒，对他的夫人说：“宗庙是国家最庄重的地方，而丙显却表现出不恭敬不谨慎，将来丢失我爵位的一定会是丙显。”丙吉夫人替儿子说了不少好话，然后才饶了丙显。丙吉的二儿子丙禹做水衡都尉，小儿子丙高做中垒校尉。
元帝时，长安的一个名叫尊的士卒上书皇帝，说： “臣子我年少时曾做郡邮的小官吏，曾见到孝宣皇帝以皇曾孙的身份关在郡邸狱中。当时替皇帝查办案件的使者丙吉见皇曾孙无辜受难，自己的仁义之心不仅大为感动，十分伤心。于是便挑选女犯人胡组养育皇孙，丙吉也常一起看护。臣子我当日曾多次在郡邸庭中侍奉皇孙。后来遭遇到登录监狱犯人全部杀死的诏命，丙吉不开门，抗拒了大难，不避严刑峻法终于保全了皇孙。后来遇到大赦，丙吉对守丞令谁如说，皇孙不应当再在官狱裹了，让谁如以官府文书形式写信给京兆尹，同时把皇孙和胡组一起送到京兆尹那裹，京兆尹不接受，又送了回来。到了胡组雇El已满，该回家了，皇孙因长期和她在一起，恋恋不舍，丙吉于是便用自己的钱雇了胡组，让她留下来和郭征卿一起抚养了皇孙几个月，才让她回家了。后来掌管掖庭府藏的官吏少内啬夫对丙吉说： ‘想给皇孙上等供给，但没有诏令，汐办法。’当时丙吉能够吃到米和肉，便每月拿了自己的俸禄供给皇孙。丙吉有时病了，总是让我不分早晚地去问候皇孙的情况，看看被褥的干湿厚薄。还常告诫胡组、郭征卿，不许她们或早或晚地离开皇孙去游玩，并多次向皇孙进奉好吃甘脆的食物。所以保证了孝宣皇帝精神愉快，健康成长，可谓功德无量。当时丙吉哪裹会预料到皇孙会做皇帝？哪裹会想到将来徼功求报！实在是他心地淳厚、仁义、善良的自然表现。即使是介之推那样的割自己的肉给君主吃，以使君主存活的行为，也不能与之相比。孝宣皇帝在时，我曾上书说明当时的情状，奏书有幸到了丙吉那裹，丙吉十分谦虚，不自我炫耀，删去了我奏书中关于他的那些话，而把好处全归功于胡组和郭征卿，胡组、郭征卿都因此被赏赐给了田宅、金钱，丙吉被封为博阳侯。臣尊我不能和胡组、郭征卿相比。臣我年纪已老，生活贫困，不知哪时就会死去，想要一直不说出来，又恐怕埋没有功劳的人。丙吉的儿子丙显因犯小罪被削爵位，做关内侯。臣愚昧地认为应该恢复他原来的爵位和封邑，以报答他先父的功德。”在这以前，丙显做了十多年的太仆，和他的属官大作坏事，盘剥金银，家中藏钱千余万，司隶校尉昌审理弹劾丙显，罪行至于大逆不道，奏请皇帝予以逮捕。元帝说：“已故丞相丙吉对孝宣皇帝有旧恩，朕不忍杀他的儿子。”于是衹免去丙显的官位，削去食邑四百户。后来又让他做了城门校尉。丙显死后，他的儿子丙昌袭爵为关内侯。