素多权略，乘机赴敌，应变无方。然大抵驭戎严整，有犯令者，立斩无所宽贷。每将临寇，辄求人过失而斩之，多者百余人，少不下数十，流血盈前，言笑自若。及对阵，先令一二百人赴敌，陷阵则已，如不能陷而还，无问多少，悉斩之。又令二百人复进，还如向法。将士股栗，有必死心，由是战无不胜，称为名将。素时贵幸，言无不从。其从素征代者，微功必录。至于他将，虽大功，多为文吏所谴却。故素虽严忍，士亦以此愿从。
二十年，晋王广为灵、朔道行军元帅，素为长史，王卑躬交素。及为太子，素之谋也。仁寿初，代高颎为尚书左仆射，赐良马十匹、牝马二百匹、奴婢百口。其年，以素为行军元帅，出云中击突厥，连破之。突厥走，追至夜及之。将复战，恐贼越逸，令其骑稍后，于是亲将两骑并降突厥二人与虏并行，不之觉也。侯其顿舍未定，趣后骑掩击，大破之。自是突厥远遁，碛南无复虏庭。以功进子玄感位柱国，玄纵为淮南郡公，赏物二万段。
及献皇后崩，山陵制度多出于素。上善之，下诏曰："君为元首，臣则股肱，共理百姓，义同一体。上柱国、尚书左仆射、仁寿宫大监、越国公素，志度恢弘，机鉴明远，怀佐时之略，包经国之才。王业初基，霸图肇建，策名委质，受脤出师，禽翦凶魁，克平虢、郑。频承庙算，扬旌江表；每禀戎律，长驱塞垣。南指而吴越肃清，北临而獯猃摧服。自居端揆，参赞机衡，当朝正色，直言无隐。论文则词藻从横，语武则权奇间出，既文且武，唯朕所命。任使之处，夙夜无怠。献皇后奄离六宫，远日云及，茔兆安厝，委素经纪。然葬事依礼，唯卜泉石，至如吉凶，不由于此。素义存奉上，情深体国，欲使幽明俱泰，永保无穷。以为阴阳之书，圣人所作，祸福之理，特须审慎。乃遍历川原，亲自占择，志图元吉，孜孜不已。遂得神皋福壤，营建山陵。论素此心，事极诚孝，岂与平戎定寇，比其功业，若不加褒赏，何以申兹劝励。可别封一子义康郡公、邑万户，子子孙孙承袭不绝，余如故。"并赐田三十顷、绢万匹、米万石；金钵一，实以金；银钵一，实以珠；并绫锦五百段。
时素贵宠日隆。其弟约、从父文思、弟纪及族父异并尚书、列卿，诸子无汗马劳，位柱国、刺史。家僮数千，后庭妓妾曳绮罗者以千数；第宅华侈，制拟宫禁。有鲍亨者善属文，殷胄者工草隶，并江南士人，因高智慧没为奴。亲戚故吏，布列清显。其盛近古未闻。炀帝初为太子，忌蜀王秀，与素谋之，构成其罪，后竟废黜。朝臣有违忤者，虽至诚体国如贺若弼、史万岁、李纲、柳彧等，素皆阴中之。若有附会及亲戚，虽无才用，必加进擢。朝廷靡然，莫不畏附。唯兵部尚书柳述，以帝婿之重，数于上前面折素。大理卿梁毗，抗表言素作威作福。上渐疏忌之，后因出敕曰："仆射，国之宰辅，不可躬亲细务，但三五日一度向省评论大事。"外示优崇，实夺之权，终仁寿之末，不复通判省事。上赐王公已下射，素箭为第一，上手以外国所献金精盘价直巨万以赐之。四年，从幸仁寿宫，宴赐重叠。
及上不豫，素与兵部尚书柳述、黄门侍郎元岩等入侍疾。时皇太子入居大宝殿，虑上有不讳，须豫防拟，乃手自为书，封出问素。素条录事状，以报太子。宫人潜送于上，上览而大恚。所宠陈贵人又言太子无礼。上遂发怒，欲召庶人勇。太子谋之素，素矫诏追东宫兵士帖上台宿卫，门禁出入，并取宇文述、郭衍节度。又令张衡侍疾。上以此日崩，由是颇有异论。
会汉王谅反，遣茹茹天保往东蒲州，烧断河桥，又遣王〈身冉〉子并力拒守。素将轻骑五千袭之。潜于渭口宵济，比明击之。天保败，〈身冉〉子惧，以城降。有诏征还。初素将行，计日破贼，皆如所量。帝于是以素为并州道行军总管、河北道安抚大使，讨谅。时晋、绛、吕三州并为谅城守，素各以二千人縻之而去。谅遣赵子开拥众十余万，筑绝径路，屯据高壁，布阵五十里。素令诸将以兵临之，自以奇兵深入霍山，缘崖谷而进，直指其营，一战破之，谅所署介州刺史梁修罗屯介休，闻素至，惧，弃城而走。进至清源，去并州三十里。率其将王世宗、赵子开、萧摩诃等来拒战，又击破之，禽萧摩诃。退保并州，素进兵围之。谅穷而降，余党悉平。帝遣素弟修武公约赍手诏劳，素上表陈谢。其月，还京师。从驾幸洛阳，以素领营东京大监。以平谅功，拜其子万石、仁行、侄玄挺皆仪同三司，赉物五万段、罗绮千匹、谅之妓妾二十人。大业元年，迁尚书令赐东京甲第一区、物二千段，寻拜太师，余官如故。前后赏锡不可胜计。明年，拜司徒，改封楚公，真食二千五百户。其年病薨，谥曰景武。赠光禄大夫、太尉公、弘农河东绛郡临汾文城河内汲郡长平上党河十郡太守，给辒辌车、班剑三十人、前后部羽葆鼓吹、粟麦五千石、物五千段，鸿胪监护丧事。帝又下诏立碑，以彰盛美。素尝以五言诗七百字赠番州刺史薛道衡，词气颖拔，风韵秀上，为一时盛作。未几而卒，道衡叹曰："人之将死，其言也善，若是乎！"《集》十卷。