当时对敕策的有一百多人，太常上奏对策成绩时，公孙弘位居下等。策简呈给皇帝后，天子将公孙弘的对策选拔为第一。公孙弘被召入见，天子见他一表人才，于是任命为博士，待韶金马盟。
公孙弘再次上疏说：“陛下有先圣的位置而没有先圣的名声，有先圣的名声而又没有先圣的官吏，所以陛下现在所处的情势与先圣相同，但治理的结果却不一样。过去那个时代的官吏清正，所以百姓忠实；现在的官吏贪邪，所以百姓粗鄙。有弊端的政治得不到推行，令人憎恶的法令不会被听从。任用贪邪的官吏去推行弊政，用令人憎恶的法令去治理粗鄙的百姓，百姓不可能被教化，造就是为什么会出现不同的治理结果。我听说周公治理天下，一年就发生了变化，三年百姓受到教化，五年便天下太平。这是陛下向往追求的。”奏疏呈上后，天子用册书答覆： “问：公孙弘盛赞周公之治，那么你认为自己与周公相比，谁的才能更高呢？”公孙弘回答说：“我的见识浅薄，怎么敢与周公相比！虽然如此，我还是明白现在实行治道就可以达到先圣的治理境界。虎豹马牛，这些都是难以号令的野兽，等到它们被教练驯服后，便可驾驭使用，让它听从人的命令。我听说，数日之内燥工就可以将直木烘曲，数月之内金石便可被销熔，人对于利害的好恶认识，岂是禽兽木石所能相比的？我认为，用一年时间才使国家发生变化，太慢了。”皇上对他的话很诧异。
当时刚刚与西南夷交往，巴蜀两郡苦于供奉劳作，皇上下诏派公孙弘去视察。回朝汇报时，他极力反对交通西南夷，认为没有用处，皇上没有听从他的意见。每当朝会议政的时候，公孙弘都将自己的意见陈述出来，让皇帝自己选择，而不肯在朝堂上当面反驳、争论。由此皇帝看出他行为谨慎忠厚，辩论时留有余地，熟悉文书法令及官吏公务，又以儒术加以文饰，所以非常喜欢他，一年之内就将其提拔为左内史。
公孙弘上朝奏事，有认为不对的事，也不当庭争辩。他常与主爵都尉汲黯先后去见皇上，汲黯先提出问题，公孙弘随后进行推究阐述，皇上常常很高兴，听从他所说的一切，公孙弘因此而越来越受到宠信。他曾与公卿相约提出某些建议，可是到了皇帝面前，又完全背弃约定，顺着皇帝的意图说。汲黯当庭责问公孙弘：“齐人多伪诈而不老实，先与臣等提出以上建议，现在又完全背弃前约，这是对君不忠。”皇上询问公孙弘，公孙弘谢罪说： “了解臣的人认为臣是忠君的，不了解臣的人认为臣是不忠的。”皇上认为他的话有道理。皇帝左右的宠臣诋毁公孙弘，但皇上却越来越厚待他。
公孙弘善于言谈，见多识广，常说君主怕的是不能宽弘大度，为臣子怕的是不能节俭。他奉养后母恭谨孝顺，后母去世，他服了三年丧。
作了几年内史后，公孙弘升为御史大夫。当时又在东方新设置了苍海郡，在北面筑起朔方郡城。公孙弘几次劝谏，认为这是劳民伤财去经营无用之地，不值得使中原地区为此疲敝不堪，希望停止。皇上于是命朱买臣等驳斥公孙弘，论证设置朔方郡的必要性。朱买臣等提出十个问题，公孙弘一条也驳不倒。于是他向皇上谢罪说：“我是山东粗鄙之人，不了解设朔方郡如此有利，希望罢去西南夷、苍海郡，而专一经营朔方郡。”皇上这才应允了他的请求。
汲黯说：“公孙弘位列三公，俸禄很多，但却用布做被子，这是伪诈。”皇上询问公孙弘，他谢罪说： “有这样的事。九卿中与我交情好的没有比得过汲黯的，可是今天他当庭责问我，实在是说中了我的弱点。身为三公之一而用布被子，的确是伪饰欺诈，想要沽名钓誉。我听说管仲作齐国的相，娶了三位不同姓的女子为妻，其奢侈程度可与君主相比，齐桓公依靠他的辅佐而称霸，不过他是对上僭越国君。晏婴作齐景公的相，一餐不吃两份肉菜，他的小妾不穿丝织的衣服，齐国也治理得很好，他是向下比照着平民。现在我公孙弘作御史大夫，用布被子，是使九卿以下至小吏都没有了贵贱的差别。确如汲黯所言。再说没有汲黯，陛下如何能听到我这番话？”皇上认为他能礼让，越发尊敬他。
元朔年间，公孙弘取代薛泽成为丞相。原先汉王朝一般以列侯为丞相，祇有公孙弘没有爵位，皇上于足下诏说： “我钦慕先圣治国之道，广开门路，宣招四方的贤士。古代按其贤能安排职位高低，衡量其才干授予不同的宫职，功劳大的人俸禄丰厚，德行高的人爵位尊显，所以立有武功的得到升迁，有文德的得到褒奖。兹令将高成县平津乡的六百五十户封给丞相公孙弘，封其为平津侯。”其后便以此为制度。官至丞相而封侯，是从公孙弘开始的。
当时皇上正在兴功立业之际，一再选拔贤良。公孙弘就因对策第一而出人头地的，他起白布衣，几年后就官至宰相并封侯。止因为此，他营建客馆，打开束门招请贤士，并与他们共同研讨议事。公孙弘本人每餐衹吃一个肉菜和糙米，其亲朋及宾客都依靠他供给衣食，他的俸禄因此而全部拿了出来，家中无所剩余。但他性情好猜忌，表面宽和而内心深藏。那些与公孙弘有过嫌隙的，无论近远，虽然表面上他都与其友善，最终总要报复。杀主父偃，贬董仲舒到胶西，都是公孙弘的主意。
后来淮南王、衡山王谋反，朝廷正在严厉追查其党羽的时候，公孙弘得了重病，他感到自己无功而封侯，官居宰相之位，应该辅佐圣明的皇帝平定安抚国家，使得人们都遵循作臣子的道义。现在诸侯王中出现了叛逆，这是作大臣的不称职所致。他怕病死无法交待，于是上书说：“我听说天下的常道有五个方面，用以实行的又有三条。君臣、父子、夫妇、长幼、朋友之交，这五个方面是天下的常道；仁、智、勇是实行常道的三德。所以说‘有疑则问近于智，身体力行近于仁，知道廉耻近于勇。懂得这三条，便知道如何修身自律；才会知道如何治理百姓。’没有不能自律而能治理百姓的。陛下亲行孝悌，借鉴三王，建立周朝那样的政令，兼有文王之德武王之才，招揽四方之士，选贤任职，量能授官，这是能够激励百姓劝勉贤才的做法。而今臣下我愚鲁无才，又无汗马之劳，陛下过分看重从卒伍之中将我提拔起来，封为列侯，位至三公。我的德行才能不足与这样高的官爵相称，加上有病在身，恐怕要先于狗马葬身沟壑，最终都无法报答皇上的恩德，也无法尽忠职守。我想归还列侯爵位，辞职退休，给贤才让路。”皇上答覆说：“自古奖赏有功劳的，表彰有德行的，守成时崇尚文治，逢乱世崇尚武功，这个原则从未改变过。我朝夕努力以求成才，获承皇位，心怀忧惧，不能安宁，衹想与诸位大臣共同努力治理天下，而您是通晓治国之道的。君子赞美良善，他的善举福及后代，你若照此行事，我心裹是会常常想到的。您不幸身染小病，何愁不愈？竟上书辞归侯爵并要退休辞官，这是显露我无德啊。现在朝中事情不多，您可保养精神，不要挂念思虑，请医吃药以恢复身体。”于是，赐予休假，又赏赐牛酒及各类丝帛。过了几个月，公孙弘病愈，上朝理事。