宋亡，入朝，加佥书西川行枢密院事，选淮南兵，使将之平蜀。未行，会北边有警，加镇国上将军、汉军都元帅，将卫兵定北方。冬，召还，帝亲解衣加玉带赐之。十五年，复将左、右、中三卫兵，戍北边，诏“有不用命者，斩之以闻”。十六年，诸王脱脱木反，寇和林。国杰度其众悉至，营中必虚，选轻骑袭之，获其众万计。脱脱木屡战不利，又残暴，失众心，众杀之来降。十八年，加辅国上将军。十九年，征东兵无功而还，帝怒，将尽罢大小将校，召国杰为征东行省左丞。既至，帝语之故，国杰曰：“罪在元帅耳，倘蒙圣慈，复诸将之职，彼必人人思奋，以雪前耻矣。”帝从之。尽复其官，以属国杰征日本。会黄华反建宁，乃命国杰以征东兵会江淮参政伯颜等讨之。国杰破赤岩寨，黄华自杀，余众皆溃。福建行省左丞忽剌出将兵来会梧桐川，欲搜贼溃去者尽杀之，国杰曰：“首乱者，华也，余皆胁从，招谕不归，诛之未晚。”未几，众果出降。二十二年，罢征东省，除佥书沿江行枢密院，改佥院。
二十三年，朝廷以湖广重地，且多盗，拜本省左丞。国杰至，首平湖南盗李万二。明年，广东盗起，寇肇庆，其魁邓太獠居前寨，刘太獠居后寨，相依以为固。国杰趋捣后寨，破之，遂拔前寨，擒斩二人，捕民结盗者，皆杖杀之。加资德大夫。二十五年，湖南盗詹一仔诱衡、永、宝庆、武冈人，啸聚四望山，官军久不能讨。国杰破之，斩首盗，余众悉降。将校请曰：“此辈久乱，急则降，降而有衅，复反矣，不如尽坑之。”国杰曰：“多杀不可，况杀降耶！吾有以处之矣。”乃相要地为三屯：在衡曰清化，在永曰乌符，在武冈曰白仓，迁其众守之，每屯五百人，以备贼，且垦废田榛棘，使贼不得为巢穴。降者有故田宅，尽还之，无者，使杂耕屯中，后皆为良民。
有诏讨江西诸盗，国杰趋赴之。十一月，破萧太獠于陈古水，斩数百人，进平怀集诸寨贼。二十六年春，东入肇庆，攻闫太獠于清远，还攻萧太獠于怀集，擒之，复攻走严太獠。四月，攻曾太獠于金林，又破走之。贼深入保险，国杰凿山而入，贼众五千人，掩杀略尽。七月，次贺州，兵士冒瘴，皆疫，国杰亲抚视之，疗以医药，多得不死。会国杰亦病，乃移军道州。广东盗陈太獠寇道州，国杰讨擒之。遂攻拔赤水贼寨。二十七年，江西盗起龙泉，下令往击之，诸将交谏曰：“此他省盗也。”国杰曰：“纵寇生患，患将难图，岂可以彼此言耶！”乃选轻兵，弃旗鼓，去缨饰，一日夜趋贼境。贼众数千逆战，望见军容不整，曰：“此乡丁也。”易之。国杰以数十骑陷阵，众从之，贼大败，斩首五百余级，夺所掠男女，日暮，忽收兵去。堡中民望见，怪之，莫知其谁。明日，又忽至，召堡民归其男子曰：“吾刘二霸都也。”民皆惊以为神，因告别盗钟太獠居南安十八耒。国杰乘雾，突入其巢。贼众惊乱，自相蹂践，官军搏之，自旦至午，所擒杀甚众，还兵桂东。二月，龙泉盗复寇酃县，国杰遂还酃。贼退保大井山，乃分军三道趋之。道险，弃马而入。时天大雨，贼不为备，尽掩杀之，还镇道州。八月，永州盗李末子千七寇全州，败官兵，杀郡长官土鲁。国杰进讨，擒之，枭首而还。以前后功，加湖广右丞。
二十八年，置湖广等处行枢密院，迁副使，还军武昌。秋，广东盗再起，国杰复出道州。时知上思州黄胜许恃其险远，与交趾为表里，寇边。二十九年，诏国杰讨之。贼众劲悍，出入岩洞篁竹中如飞鸟，发毒矢，中人无愈者。国杰身率士奋战，贼不能敌，走象山。山近交趾，皆深林，不可入，乃度其出入，列栅围之。徐伐山通道，且战且进，二年，拔其寨。胜许挺身走交趾，擒其妻子杀之。国杰三以书责交趾索胜许，交趾竟匿不与。夏，师还，尽取贼巢地为屯田，募庆远诸僮人耕之，以为两江蔽障。后蛮人谓屯为省地，莫敢犯者。诏遣使即军中以玉带赐之。三十年，入朝，帝谓朝臣曰：“湖广重地，惟刘二霸都足以镇此，他人不能也。”命无迁他官。俄议问罪交趾，加湖广安南行平章事，以诸王亦吉列台为监军征之。未行，会帝崩，乃止。
成宗即位，复置行枢密院于衡州。仍除副使。初，黔中诸蛮酋既内附复叛，又巴洞何世雄犯澧州，泊崖洞田万顷、楠木洞孟再师犯辰州，朝廷尝讨降之。升泊崖为施溶州，以万顷知州事。三十一年，万顷复叛，攻之，不能下。至是，帝即位，赦天下，并赦万顷等，亦不降，帝以命国杰。九月，国杰驰至辰，进攻明溪贼鲁万丑，拥众自上流而下，千户崔忠、百户马孙儿战死。十月，进兵桑木溪，万丑复以千人拒战，击却之。明日，万丑倍众来攻，国杰鼓之，百户李旺率死士陷阵，众军齐奋，贼败，遂破其巢，焚之。进攻施溶，部将田荣祖请曰：“施溶，万顷之腹心，石农次、三羊峰，其左右臂也，宜先断其臂，而后腹心乃可攻。”国杰曰：“甚善。”麾诸军攻石农次，贼不能支，弃寨遁，遂拔施溶，擒万顷，斩之。复穷捕其党，攀崖缘木而进，凡千余里。元贞元年，即军中加荣禄大夫、湖广行省平章政事。辰、澧地接溪洞，宋尝选民立屯，免其徭役，使御之，在澧者曰隘丁，在辰者寨兵，宋亡，皆废，国杰悉复其制，班师。继又经画茶陵、衡、郴、道、桂阳，凡广东、江西盗所出入之地，南北三千里，置戍三十有八，分屯将士以守之，由是东尽交广，西亘黔中，地周湖广，四境皆有屯戍，制度周密，诸蛮不能复寇，盗贼遂息。