炀帝嗣位，汉王谅反，时代州总管李景被谅将乔钟葵所围，义臣时为朔州总管，奉诏救之。钟葵见义臣兵少，悉众拒之。时钟葵亚将王拔骁勇，善用槊，射者不能中，每以数骑陷阵。义臣患之，募能当拔者。有车骑将军杨思恩请当之。义臣见思恩气貌雄勇，顾之曰："壮士也！"赐以危酒。思恩望见拔立于阵后，投觞于地，策马赴之。再往不克，所从骑士退，思恩为拔所杀。拔遂乘之，义臣军北者十余里。于是购得思恩尸，义臣哭之甚恸，三军莫不下泣，所从骑士皆腰斩。义臣自以兵少，悉取军中牛驴，得数千头，复令数百人，人持一鼓，潜驱之磵谷间，出其不意。义臣晡后复与钟葵战，兵初合，命驱牛驴者疾进。一时鸣鼓，埃尘张天，钟葵军不知所以，以为伏兵发，因大溃，从击破之。以功进位上大将军。累迁太仆卿。从征吐谷浑，令义臣屯琵琶峡，连营八十里，南接元寿，北连段文振，合围吐谷浑主于覆袁川。复从征辽东，以军将指肃慎道。至鸭绿水，与乙支文德战，每为先锋，一日七捷。后与诸军俱败，竟坐免。俄而复位。明年，以为军副。与大将军宇文述趣平壤。至鸭绿水，会杨玄感作乱班师，检校赵郡太守。妖贼向海公作乱，寇扶风、安定间，义臣奉诏击平之。寻从帝复征辽东，进位左光禄大夫。时勃海高士达、清河张金称并相聚为盗，攻陷郡县。帝遣将军段达讨之，不能克，诏义臣率辽东还兵击之，大破士达，斩金称。又收降贼，入豆子〈卤亢〉，讨贼格谦禽之，以状闻奏。帝恶其威名，遽追入朝，贼由是复盛。义臣以功进位光禄大夫，寻拜礼部尚书。卒于官。
论曰：昔韩信愆垓下之期，则项王不灭；英布无淮南之举，则汉道未隆。以二子之勋庸，咸愤怨而菹戮，况乃无古人之殊绩，而怀悖逆之心者乎！梁士彦遭云雷之会，以勇略成名，遂贪天之功以为己力。执者倦矣，施者未厌，将生厉阶，求逞其欲。及兹颠坠，自取之也。元谐、虞庆则、元胄，或契阔艰危，或绸缪恩旧，将安将乐，渐见遗忘，内怀怏怏，矜伐不已。虽时主之刻薄，亦言语以速祸乎！然隋文佐命元功，鲜有终其天命，配享清庙，寂尔无闻。斯盖草创帝图，事出权道，本异同心，故久而愈薄。其牵牛蹊田，虽则有罪，夺之非道，能无怨乎？皆深文巧诋，致之刑辟，帝沈猜之心，固已甚矣。求其余庆，不亦难哉！长儒以步卒二千，抗十万之众，师歼矢尽，勇气弥厉，壮矣哉！子干西涉青海，北临玄塞，胡夷慑惮，亦有可称。万岁实怀智勇，善抚士卒，人皆乐死，师不疲劳。北却匈奴，南平夷獠，兵锋所指，威警绝域。论功仗气，犯忤贵臣，偏听生奸，死非其罪，人皆痛惜，有李广之风焉。刘方号令无私，临军严肃，克翦林邑，遂清南海，徼外百蛮，无思不服。杜彦东夏南服，屡有战功，作镇朔垂，胡尘不起。周摇以质直见知，独孤楷以恤人流誉。盛蹈履之地，可以追踪古人。乞伏慧能以国让，亦云美矣。而慧以供帐不厚，至于放黜，君方逞欲，罚亦深哉！阴世师遭天所废，舍命无改，虽异先觉，颇同后凋。义臣时属扰攘，功成三捷，而以功见忌，得没亦为幸也。