汉武帝刚刚即位，求贤若渴，在全国之内，招选贤良儒学之士。这时公孙弘已经六十岁了，以贤良的身份被征召入京，做了博士。他奉命出使匈奴，回来汇报情况，因为不合皇上心意，汉武帝很生气，认为他无能，公孙弘就称病辞官回家了。

又过了几年，汉武帝再次招选贤良儒学之士，菑川国再次推荐公孙弘。公孙弘向国人推辞说：前些年我已经应命去过京城一次，因为无能而罢官回来。这次还是推荐其他的人去吧。

国人仍然坚决推举公孙弘，公孙弘就到了太常那里。太常让所征召的一百多个儒士分别对策，公孙弘被排在最后。全部对策文章送到了汉武帝那里，汉武帝看后，把公孙弘的对策文章提到第一。公孙弘被召入朝觐见，汉武帝见他相貌堂堂，就封他为博士。

当时汉朝正忙着开拓西南夷通道，要在那里设郡县，巴蜀百姓对此苦不堪言。汉武帝派公孙弘前去探视，公孙弘觉得修这条路是劳民伤财，不主张修这条路。公孙弘视察归来，向皇帝报告，极力反对修这条路，但汉武帝没有采纳他的意见。

公孙弘为人豁达，见闻广博，常说人主的弊病就在于心胸不够广大，人臣的弊病在于太奢侈。因此他盖布被，吃饭时从不吃两种以上的肉菜。后母死了，他守丧三年。

公孙弘上朝同大家议论政事，他只阐明事情的原委，让皇帝自己去选择决定，从不当面驳斥或在朝廷上力争。汉武帝渐渐发现公孙弘这个人，品行忠厚，善于言谈，熟悉文书法令和官场事务，而且还能用儒学观点加以文饰，所以就非常喜欢他，就提拔他为内史。

公孙弘上奏事情，有时不被采纳，他也不当庭争辩。他曾经和主爵都尉汲黯向皇帝单独奏事，汲黯先说，公孙弘随后加以推究阐述，皇帝常常很高兴，他所奏的事情都被采纳。从此，公孙弘一天天受到了皇帝的宠信，地位也显贵起来。

公孙弘曾经与大臣们事先商定了一套方法，但到了皇帝面前，他却违背了与大臣的约定，顺从皇上的旨意。汲黯在朝廷上责备公孙弘说：齐人多半狡诈而无诚意，开始时同我们一起提出这个建议，现在却完全违背，这简直就是不忠。

皇帝问公孙弘说：有这样的事吗？

公孙弘谢罪说：了解我的人认为我忠诚，不了解我的人，就认为我不忠诚。

皇帝赞同他的说法，不论谁诋毁公孙弘，皇帝却更加厚待公孙弘。

武帝元朔三年，张欧被免职，汉武帝任命公孙弘为御史大夫。这时汉朝正忙着开通西南夷，在东边设置沧海郡，在北边修建朔方城。公孙弘屡次上书劝谏，认为这些做法是劳民伤财，白白浪费了钱财。希望停止这些无效的工程。