武宗抚军北边，成宗升遐，宰臣有异谋者，事定，命俨预鞫问之，悉得其情。除山北廉访副使，入为右司郎中。武宗临御，湖广省臣有伪为警报，驰驿入奏，以图柄用者，俨面诘之曰：“汝守方面，既有警，岂得离职，是必虚诞耳。”其人竟以状露被斥。旱蝗为灾，民多因饥为盗，有司捕治，论以真犯。狱既上，朝议互有从违，俨曰：“民饥而盗，迫于不得已，非故为也。且死者不可复生，宜在所矜贷。”用是得减死者甚众。
至大元年，授左司郎中，擢江南诸道行御史台治书侍御史。先是，俨以议立尚书省，忤宰臣意，适两淮盐法久滞，乃左迁俨为转运使，欲以陷之。比至，首劾场官之贪污者，法既大行，课复增羡至二十五万引。河南行省参政来会盐筴，将以羡数为岁入常额。俨以亭户凋弊已甚，以羡为额，民力将殚，病人以为己，非宰臣事，事遂止。仁宗践阼，召为户部尚书，廷议欲革尚书省弊政，俨言：“遽罢钱不用，恐细民失利。”不从，以疾辞。
皇庆元年，除浙东道廉访使。有钱塘退卒，诈服僧衣，称太后旨，建婺州双谿石桥，因大兴工役以病民。俨命有司发其奸赃，杖遣之，仍请奏罢其役。郡大火，焚数千家，俨令发廪赈贫馁。取宪司废堂材木及诸路学廪之羡者，建孔子庙。二年，拜江西等处行中书省参知政事。旧俗，民有争，往往越诉于省，吏得并缘为奸利，讼以故繁。俨令下省府，非有司，不得侵民，讼事遂简。诏设科举，俨荐临川吴澂、金陵杨刚中为考试官，得人为多。其年冬，移疾退居真州。除江南诸道行御史台侍御史，不赴。四年春，诏促就前职，以疾辞。七月，召为侍御史；十月，迁太子副詹事，御史大夫脱欢答剌罕奏留之，制曰“可”。湖广省臣以赃败，俨一日五奏，卒正其罪。台臣有劾去而复职者，御史复劾之，章再上，有旨命丞相、枢密共决之。俨曰：“如是，则台事去矣。”遂即帝前奏黜之，因伏殿上，叩头请代。帝谕之曰：“事非由汝，汝其复位。”
五年夏五月，拜中书参知政事，台臣复奏留之，俨亦陛辞，不允。赐《大学衍义》及所服犀带。每入见，帝以字呼之，曰威卿而不名，其见礼遇如此。旧制，诸院及寺监，得奏除其僚属者，岁久多冒滥，富民或以赂进，有至大官者。俨以名爵当慎惜，会台臣亦以为言，乃奏请悉追夺之，遂著为令。六年，告病，赐衣一袭，遣医视疗。俨以其乡在近圻，恐复征用，乃徙居淮南，虽亲故皆不接见。至治元年，除陕西诸道行御史台中丞。泰定元年，改江南诸道行御史台中丞。皆不赴。年六十五，即告老，朝廷虽命其子自强为安庆总管府判官，而未从其请。四年春，遣使赐酒，征为集贤大学士、荣禄大夫，商议中书省事。俨令使者先返，而挈家归易水。九月，帝特署为中政院使，复赐酒，召之，乃舆疾入见，赐食慰劳，亲为差吉日使视事，命朝会日无下拜；是月，拜中书平章政事，复以老病辞，不从。
天历改元，朝议欲尽戮朝臣之在上京者，俨抗论，谓是皆循常岁例从行，杀之非罪。众赖之获免。居月余，伤足，告归。家居十余年，痹不能行，犹劬书不废。临终，戒子弟曰：“国恩未报，而至不禄，奈何！汝曹当清白守恒业，无急仕进。”正冠帻，端坐而逝。赠翰林学士承旨、光禄大夫、柱国，封鲁国公，谥文忠。
自强，朝散大夫、礼部员外郎。俨有诗文若干卷，藏于家。叔祖铉，与太原元好问同登金进士第，国初为中都提学，著《春秋备忘》四十卷，仁宗朝命刻其书，今行于世。