未几，除开封府判官，改尚书刑部员外郎、直集贤院，为三司度支判官，出为两浙转运副使。旧使者所至郡县，索簿书，不暇殚阅，往往委之吏胥，吏胥持以为货。少连命郡县上簿书悉缄识，遇事间指取一二自阅，摘其非是者按之，余不及阅者，全缄识以还。由是吏不能为奸，而州县簿书莫敢不治矣。部吏有过，召诘曰："闻子所为若此，有之乎？有当告我，我容汝自新；苟以为无，吾不使善人被谤，即为汝辨明矣。"吏不敢欺，皆以实对。少连每得其情，谆谆戒饬使去，后有能自改过者。犹保任之。秀州狱死无罪人，时少连在杭，吏畏恐聚谋，伪为死者服罪款，未及缀，属少连已拏舟入城，讯狱吏，具服请罪，以为神明。是时，郑向守杭，无治才。讼者不服，往往自州出，径趋少连；少连一言处决，莫不尽其理。
徙使淮南，兼发运司事，加兵部员外郎。又徙陕西。附马都尉柴宗庆知陕州，纵其下挠民，少连入境，劾奏之。入兼侍御史知杂事，逾月，为三司度支副使。河东地震，奉使安抚。还，擢工部郎中、天章阁待制、知广州。时元昊反，范仲淹荐少连才堪将帅，迁龙图阁直学士、知泾州，改渭州，命未至而卒。少连通敏有才，遇事无大小，决遣如流，不为权势所屈。既卒，仁宗叹惜之。
论曰：古人有言："山有猛兽，藜藿为之不采。"当天圣、明道间，天子富于春秋，母后称制，而内外肃然，纪纲具举，朝政亡大阙失，奸人不得以自肆者，繇言路得人故也。是时，孔道辅、鞠咏、刘随、曹修古迭为谏官、御史，郭劝、段少连继之，皆侃侃正色，遇事辄言，被斥逐，不更其守。及帝既亲政，道辅、劝、少连复任言责，郭后之废，引议慷慨，犯人主，责大臣，其气益壮，遗风余烈，天下至今称之。《诗》所谓"邦之司直"，其庶几欤！