二年，为御史中丞。时王安石方行青苗法，公著极言曰："自古有为之君，未有失人心而能图治，亦未有能胁之以威、胜之以辩而能得人心者也。昔日之所谓贤者，今皆以此举为非，而生议者一切祗为流俗浮论，岂昔皆贤而今皆不肖乎？"安石怒其深切。帝使举吕惠卿为御史，公著曰："惠卿固有才，然奸邪不可用。"帝以语安石，安石益怒，诬以恶语，出知颍州。
八年，彗星见，诏求直言。公著上疏曰："陛下临朝愿治，为日已久，而左右前后，莫敢正言。使陛下有欲治之心，而无致治之实，此任事之臣负陛下也。夫士之邪正、贤不肖，既素定矣。今则不然，前日所举，以为天下之至贤；而后日逐之，以为天下至不肖。其于人材既反覆不常，则于政事亦乖戾不审矣。古之为政，初不信于民者有之，若子产治郑，一年而人怨之，三年而人歌之。陛下垂拱仰成，七年于此，然舆人之诵，亦未有异于前日，陛下独不察乎？"
起知河阳，召还，提举中太一宫，迁翰林学士承旨，改端明殿学士、知审官院。帝从容与论治道，遂及释、老，公著问曰："尧、舜知此道乎？"帝曰："尧、舜岂不知？"公著曰："尧、舜虽如此，而惟以知人安民为难，所以为尧、舜也。"帝又言唐太宗能以权智御臣下。对曰："太宗之德，以能屈己从谏尔。"帝善其言。
未几，同知枢密院事。有欲复肉刑者，议取死囚试劓、刖，公著曰："试之不死，则肉刑遂行矣。"乃止。夏人幽其主，将大举讨之。公著曰："问罪之师，当先择帅，苟未得人，不如勿举。"及兵兴，秦、晋民力大困，大臣不敢言，公著数白其害。
元丰五年，以疾丐去位，除资政殿学士、定州安抚使。俄永乐城陷，帝临朝叹曰："边民疲弊如此，独吕公著为朕言之耳。"徙扬州，加大学士。将立太子，帝谓辅臣，当以吕公著、司马光为师傅。
哲宗即位，以侍读还朝。太皇太后遣使迎，问所欲言，公著曰："先帝本意，以宽省民力为先。而建议者以变法侵民为务，与己异者一切斥去，故日久而弊愈深，法行而民愈困。诚得中正之士，讲求天下利病，协力而为之，宜不难矣。"至则上言曰："人君初即位，当正始以示天下，修德以安百姓。修德之要，莫先于学。学有缉熙于光明，则日新以底至治者，学之力也。谨昧死陈十事，曰畏天、爱民、修身、讲学、任贤、纳谏、薄敛、省刑、去奢、无逸。"又乞备置谏员，以开言路。拜尚书左丞、门下侍郎。
元祐元年，拜尚书右仆射兼中书侍郎。三省并建，中书独为取旨之地。乃请事于三省者，与执政同进呈，取旨而各行之。又执政官率数日一聚政事堂，事多决于其长，同列莫得预。至是，始命日集，遂为定制。与司马光同心辅政，推本先帝之志，凡欲革而未暇与革而未定者，一一举行之。民欢呼鼓舞，咸以为便。光薨，独当国，除吏皆一时之选。时科举罢词赋，专用王安石经义，且杂以释氏之说。凡士子自一语上，非新义不得用，学者至不诵正经，唯窃安石之书以干进，精熟者转上第，故科举益弊。公著始令禁主司不得出题老、庄书，举子不得以申、韩、佛书为学，经义参用古今诸儒说，毋得专取王氏。复贤良方正科。
右司谏贾易以言事讦直诋大臣，将峻责，公著以为言，止罢知怀州。退谓同列曰："谏官所论，得失未足言。顾主上春秋方盛，虑异明有进谀说惑乱者，正赖左右争臣耳，不可豫使人主轻厌言者也。"众莫不叹服。
吐蕃首领鬼章青宜结久为洮、河患，闻朝廷弭兵省戍，阴与夏人合谋复取熙、岷。公著白遣军器丞游师雄以便宜谕诸将，不逾月，生致于阙下。
帝宴近臣于资善堂，出所书唐人诗分赐。公著乃集所讲书要语明白、切于治道者，凡百篇进之，以备游意翰墨，为圣学之助。
三年四月，恳辞位，拜司空、同平章军国事。宋兴以来，宰相以三公平章重事者四人，而公著与父居其二，士艳其荣。诏建第于东府之南，启北扉，以便执政会议。凡三省、枢密院之职，皆得总理。间日一朝，因至都堂，其出不以时，盖异礼也。
明年二月薨，年七十二。太皇太后见辅臣泣曰："邦国不幸，司马相公既亡，吕司空复逝。"痛闵久之。帝亦悲感，即诣其家临奠，赐金帛万。赠太师、申国公，谥曰正献，御笔碑首曰"纯诚厚德"。