宣政元年春正月癸酉，吐谷浑伪赵王他娄屯来降。壬午，行幸邺宫。分相州广平郡置洺州，清河郡置贝州，黎阳郡置黎州，汲郡置卫州；分定州常山郡置恒州；分并州上党郡置潞州。辛卯，行幸怀州。癸巳，幸洛州。诏于怀州置宫。二月甲辰，柱国、大冢宰谯王俭薨。丁巳，帝至自东巡。乙丑，以上柱国越王盛为大冢宰，陈王纯为雍州牧。三月戊辰，于蒲州置宫。废同州及长春二宫。壬申，突厥遣使献方物。甲戌，初服常冠。以皂纱为之，加簪而不施缨导，其制若今之折角巾也。上大将军、郯国公王轨破陈师于吕梁，擒其将吴明彻等，俘斩三万余人。丁亥，诏："柱国故豆卢宁征江南武陵、南平等郡，所有民庶为人奴婢者，悉依江陵放免。"壬辰，改元。夏四月壬子，初令遭父母丧者，听终制。庚申，突厥入寇幽州，杀掠吏民。议将讨之。五月己丑，帝总戎北伐。遣柱国原公姬愿、东平公宇文神举等率军五道俱入。发关中公私驴马，悉从军。癸巳，帝不豫，止于云阳宫。丙申，诏停诸军事。六月丁酉，帝疾甚，还京。其夜，崩于乘舆。时年三十六。遗诏曰：
人肖形天地，禀质五常，修短之期，莫非命也。朕君临宇县，十有九年，未能使百姓安乐，刑措罔用，所以昧旦求衣，分宵忘寝。昔魏室将季，海内分崩，太祖扶危翼倾，肇开王业。燕赵榛芜，久窃名号。朕上述先志，下顺民心，遂与王公将帅，共平东夏。虽复妖氛荡定，而民劳未康。每一念此，如临冰谷。将欲包举六合，混同文轨。今遘疾大渐，气力稍微，有志不申，以此叹息。天下事重，万机不易。王公以下，爰及庶僚，宜辅导太子，副朕遗意。令上不负太祖，下无失为臣。朕虽瞑目九泉，无所复恨。朕平生居处，每存菲薄，非直以训子孙，亦乃本心所好。丧事资用，须使俭而合礼。墓而不坟，自古通典。随吉即葬，葬讫公除。四方士庶，各三日哭。妃嫔以下无子者，悉放还家。
谥曰武皇帝，庙称高祖。己未，葬于孝陵。
帝沉毅有智谋。初以晋公护专权，常自晦迹，人莫测其深浅。及诛护之后，始亲万机。克己励精，听览不怠。用法严整，多所罪杀。号令恳恻，唯属意于政。群下畏服，莫不肃然。性既明察，少于恩惠。凡布怀立行，皆欲逾越古人。身衣布袍，寝布被，无金宝之饰，诸宫殿华绮者，皆撤毁之，改为土阶数尺，不施栌栱。其雕文刻镂，锦绣纂组，一皆禁断。后宫嫔御，不过十余人。劳谦接下，自强不息。以海内未康，锐情教习。至于校兵阅武，步行山谷，履涉勤苦，皆人所不堪。平齐之役，见军士有跣行者，帝亲脱靴以赐之。每宴会将士，必自执杯劝酒，或手付赐物。至于征伐之处，躬在行阵。性又果决，能断大事。故能得士卒死力，以弱制强。破齐之后，遂欲穷兵极武，平突厥，定江南，一二年间，必使天下一统，此其志也。
史臣曰：自东西否隔，二国争强，戎马生郊，干戈日用，兵连祸结，力敌势均，疆场之事，一彼一此。高祖缵业，未亲万机，虑远谋深，以蒙养正。及英威电发，朝政惟新，内难既除，外略方始。乃苦心焦思，克己励精，劳役为士卒之先，居处同匹夫之俭。修富民之政，务强兵之术。乘仇人之有衅，顺大道而推亡。五年之间，大勋斯集。摅祖宗之宿愤，拯东夏之阽危。盛矣哉，其有成功者也。若使翌日之瘳无爽，经营之志获申，黩武穷兵，虽见讥于良史，雄图远略，足方驾于前王者欤。