以疾求归，知徐州。属城利国监苦吴居厚之虐，默皆革之。召为司农少卿。司马光为相，欲尽修祖宗法，问默以复乡差衙前法如何？默曰："不可。如常平，自汉为良法，岂宜尽废？去其害民者可也。"其后役人立为一州一县法，常平提举官省归提刑司，颇自默发之。除河东转运使。时议弃葭芦、吴堡二砦，默奏控扼险阻，敌不可攻，弃之不便。由是二砦得不弃。移衮州，请褒录石介后，诏官其孙。东州荐饥，流民大集，所振活数万计。入拜卫尉卿，权工部侍郎，转户部。告老，以宝文阁待制复知徐州，改河北都转运使。
初，元丰间，河决小吴，因不复塞，纵之北流。元祐议臣以为东流便，水官遂与之合。默与同时监司上议，以北流为便。御史郭知章复请从东流，于是作东西马头，约水复故道，为长堤壅河之北流者，劳费甚大。明年，复决而北，竟不能使之东。
久之，告老，提举鸿庆宫。绍圣时，坐附司马光，落待制致仕。元符三年，复之。卒，年八十。绍兴中，以其子纯请，赠开府仪同三司，加赠太保。
论曰：《诗》云："时靡有争，王心载宁。"王安石之为相，可谓致天下之争，而君心不宁矣。孙觉、李常力诤新法，宁失故人之意，毅然去之而无悔，贤哉。孔文仲之策制科，以微官慷慨论事，言虽不听，而名彻上聪。安石既斥其人，又废其科，何迁怒之甚耶！鲜于侁早识安石败事，与吕诲同见几先。马默用张方平荐为御史，至于尽言而不讳，方平止之而不听，斯为不负知己矣。李周之耿介，顾临之用兵，李之纯、王觌再黜而不改其正，亦足以见一时之多贤焉。