汉武帝刚刚即位，求贤若渴，在全国之内，招选贤良儒学之士。这时公孙弘已经六十岁了，以贤良的身份被征召入京，做了博士。他奉命出使匈奴，回来汇报情况，因为不合皇上心意，汉武帝很生气，认为他无能，公孙弘就称病辞官回家了。
又过了几年，汉武帝再次招选贤良儒学之士，菑川国再次推荐公孙弘。公孙弘向国人推辞说：前些年我已经应命去过京城一次，因为无能而罢官回来。这次还是推荐其他的人去吧。
国人仍然坚决推举公孙弘，公孙弘就到了太常那里。太常让所征召的一百多个儒士分别对策，公孙弘被排在最后。全部对策文章送到了汉武帝那里，汉武帝看后，把公孙弘的对策文章提到第一。公孙弘被召入朝觐见，汉武帝见他相貌堂堂，就封他为博士。
当时汉朝正忙着开拓西南夷通道，要在那里设郡县，巴蜀百姓对此苦不堪言。汉武帝派公孙弘前去探视，公孙弘觉得修这条路是劳民伤财，不主张修这条路。公孙弘视察归来，向皇帝报告，极力反对修这条路，但汉武帝没有采纳他的意见。
公孙弘为人豁达，见闻广博，常说人主的弊病就在于心胸不够广大，人臣的弊病在于太奢侈。因此他盖布被，吃饭时从不吃两种以上的肉菜。后母死了，他守丧三年。
公孙弘上朝同大家议论政事，他只阐明事情的原委，让皇帝自己去选择决定，从不当面驳斥或在朝廷上力争。汉武帝渐渐发现公孙弘这个人，品行忠厚，善于言谈，熟悉文书法令和官场事务，而且还能用儒学观点加以文饰，所以就非常喜欢他，就提拔他为内史。
公孙弘上奏事情，有时不被采纳，他也不当庭争辩。他曾经和主爵都尉汲黯向皇帝单独奏事，汲黯先说，公孙弘随后加以推究阐述，皇帝常常很高兴，他所奏的事情都被采纳。从此，公孙弘一天天受到了皇帝的宠信，地位也显贵起来。
公孙弘曾经与大臣们事先商定了一套方法，但到了皇帝面前，他却违背了与大臣的约定，顺从皇上的旨意。汲黯在朝廷上责备公孙弘说：齐人多半狡诈而无诚意，开始时同我们一起提出这个建议，现在却完全违背，这简直就是不忠。
皇帝问公孙弘说：有这样的事吗？
公孙弘谢罪说：了解我的人认为我忠诚，不了解我的人，就认为我不忠诚。
皇帝赞同他的说法，不论谁诋毁公孙弘，皇帝却更加厚待公孙弘。
武帝元朔三年，张欧被免职，汉武帝任命公孙弘为御史大夫。这时汉朝正忙着开通西南夷，在东边设置沧海郡，在北边修建朔方城。公孙弘屡次上书劝谏，认为这些做法是劳民伤财，白白浪费了钱财。希望停止这些无效的工程。
汉武帝派朱买臣以设置朔方城的好处，来责问公孙弘。朱买臣共提出了修建朔方城的十大好处，公孙弘无法反驳朱买臣提出的十大好处，就赔罪说：我是崤山以东的粗人，真的不知道修朔方城还有这么多好处。但希望能把西南沧海郡暂时停下来，集中力量来修建朔方城。汉武帝同意了公孙弘的建议。
汲黯说：公孙弘位居三公，俸禄很多，但却盖布被，这是故意骗人。
皇帝就问公孙弘，公孙弘谢罪说：确有此事。九卿中与我交情深的莫过于汲黯了，但他今天在朝廷上诘难我，确实是说中了我的要害，我作为三公却盖布被，确实是巧行欺诈，沽名钓誉。
不过我听说管仲担任齐相时，有三处住宅，其奢侈可与国君相比。齐桓公依靠管仲而称霸天下，也是对在上位的国君的越礼行为。晏婴齐国为相辅佐齐景公，吃饭时从不吃两样以上的肉菜，妾不穿丝织的衣服，齐国治理的也很好，这是晏婴向下自比于百姓了。
如今我当上了御史大夫，却盖布被，使得上至九卿下至小吏，没有了贵贱的差别，确实像汲黯所说的那样。况且没有汲黯的忠诚，陛下又怎么能够听到这些话呢？汉武帝认为公孙弘谦让有礼，越发厚待他，后来任命他当了丞相，封为平津侯。
公孙弘为人猜忌多疑，外表宽宏大量，内心却城府很深。曾经跟他有嫌隙的人，公孙弘表面上与其很友善，暗中却加害报复他们。杀死了主父偃，董仲舒被改派到胶西国当相国，离开了朝廷，都与公孙弘有关。
他自己每顿饭只吃一个肉莱，和粗米饭，但他的一些老友及相好的宾朋的衣食，都是公孙弘资助的。公孙弘把全部俸禄，都用来资助他的这些老友，深得许多士大夫的称赞，而他的家中却没有剩余的财物。
公孙弘担任丞相之职，因事务繁忙，整日有处理不完政务，终因年事已高，不久便病倒了。此时淮南王和衡山王谋反，朝廷紧急平叛，追查党羽。公孙弘以为，诸侯谋反，是宰相不称职导致的，一旦自己默默死去，没办法向皇帝交待。
便上书说：我一直以为我的才智低下，又没有什么汗马功劳，是陛下格外施恩，把我从行伍中破格提拔上来，封为列侯，位居三公之职。我的德行才能都不足以和职位相称，平素又多病，恐怕不久将离于人世，最终无法报答陛下的恩德，尽臣子之责。我希望交回侯印，辞官回家，给那些贤者让位。
汉武帝答复说：奖赏有功的人，表彰有德行的人，守住先人的事业要崇尚文治，遭遇祸患就要用武功，这是千古不变的道理。你行事谨慎，憎恨丑恶的人，弘扬善良的人，常在我身边，是值得信赖的人。如今你偶感风寒，何愁不愈？却上书要退回侯印，辞官归家，这是彰显我的无德呀！你不要有太多的顾虑，安心养病，一定会好起来。
汉武帝准许公孙弘继续休假，并赐给他酒肉和布帛。