邺城平，仍将家随例入关。仲举以亲故流离，情不愿住，妻伯父京兆尹博陵崔宣猷留不许去。固辞，乃得还邺。寻有诏，素望旧资，命州郡勒送，仲举惧严命而至。补秋官宾部上士，深乖情愿，乃取急言归。
隋开皇中，秦王俊镇洛州，召补州主簿。友人蜀王府记室范阳卢士彦谓仲举曰："丈人往经征辟，每致推辞，何为徒劳之任，忽尔降德？"仲举笑曰："屈伸之事，非子所知。"寻被敕追赴京，朝廷以仲举婆娑州里，责黜左降为隆州录事参军。寻以疾归，以琴书自娱，优游赏逸，视人世蔑如也。会朝廷举士，著作郎王劭又举以应诏。以前致推迁为责，除冀州清江令，未几，又以疾还。后以资例，授帅都督、洛阳令。彭城刘逸人谓仲举曰："君之才地，远近所知，久病在家，恐贻时论，具为武职，差若自安。"仲举曰："吾性本疏惰，少无宦情，岂以垂老之年，求一阶半级？所言武职，挂徐君墓树耳。"竟不起。终于洛阳永康里宅。时年六十三，当世名贤，莫不伤惜之。二子，大师、行师。
大师字君威，幼而爽悟，神情警发，标格严峻，人并敬惮之。身长七尺五寸，风仪甚伟。好学，无所不窥，善缀文。备知前代故事，若指诸掌；商较当世人物，皆得其精。弱冠，州将贺兰宽召补主簿。宽当时位望，又与大师年事不侔，初见，言未及终，便改容加敬，曰："名下故无虚士。今者非以相劳，自望坐啸有托耳。"每于私室接遇，恒尽忘年之欢。俄而以资调补左翊卫率，寻除冀州司户参军。炀帝初，改州为郡，仍除信都司户书佐。及大业暮年，王涂弛紊，居官者率多侵渔，皆致润屋；大师独守清戒，无所营求，家产益致窘迫。郡丞鞠孝棱益相叹服，曰："后于岁寒，此言于公得之。"十年，迁渤海郡主簿。及窦建德据有山东，被召为尚书礼部侍郎。武德三年，被遣使京师，因送同安公主，遂求和好。使毕，还至绛州，而建德违约，又助世充抗王师于武牢。高祖大怒，命所在拘留其使。世充、建德寻平，遂以谴徙配西会州。
大师少时，尝筮仕长安，遇日者姓史，因使占。时有从兄子同、妹夫郑师万、河东裴寂同以宿卫简入文资。各使视即日官位，及将来所至。史生曰："裴二及李，皆当依资叙用，然裴君终致台辅。郑非直今岁虚归，后岁亦当本资不叙。"指大师曰："君才虽不灭赵元叔，恐赋命亦将同之。"言子同亦无远到。时大师弟行师亦预宾贡，因问史生吉凶。生曰："此郎虽非裴君之匹，亦至方伯。"既而大师及子同、裴寂并以资补州佐。师万当年差舛，明年而齐资不叙。师万任益州新都县尉。及武德初，裴寂任尚书左仆射、魏国公。大师至是迁播，因独笑曰："史生之言，于兹验矣。"行师贞观中历太常寺丞、都水使者、邛州刺史，皆如史生之占。
大师既至会州，忽忽不乐，乃为《羁思赋》以见其事。侍中、观公杨恭仁时镇凉州，见赋异之，召至河西，深相礼重，日与游处。
大师少有著述之志，常以宋、齐、梁、陈、魏、齐、周、隋南北分隔，南书谓北为"索虏"，北书指南为"岛夷"。又各以其本国周悉，书别国并不能备，亦往往失实。常欲改正，将拟《吴越春秋》，编年以备南北。至是无事，而恭仁家富于书籍，得恣意披览。宋、齐、梁、魏四代有书，自余竟无所得。居二年，恭仁入为吏部尚书，大师复还会州。武德九年，会赦，归至京师。尚书右仆射封德彝、中书令房玄龄并与大师亲通，劝留不去，曰："时属惟新，人思自效，方事屏退，恐失行藏之道。"大师曰："昔唐尧在上，下有箕山之节，虽以不才，请慕其义。"于是俶装东归。家本多书，因编缉前所修书。贞观二年五月，终于郑州荥阳县野舍，时年五十九。既所撰未毕，以为没齿之恨焉。所制文笔诗赋，播迁及遭火，多致失落，存者十卷。子庆孙、正礼、利王、延寿、安世。
延寿与敬播俱在中书侍郎颜师古、给事中孔颖达下删削。既家有旧本，思欲追终先志，其齐、梁、陈五代旧事所未见，因于编缉之暇，昼夜抄录之。至五年，以内忧去职。服阕从官蜀中，以所得者编次之。然尚多所阙，未得及终。十五年，任东宫典膳丞日，右庶子、彭阳公令狐德棻又启延寿修晋书，因兹复得勘究宋、齐、魏三代之事所未得者。十七年，尚书右仆射褚遂良时以谏议大夫奉敕修《隋书》十志，复准敕召延寿撰录，因此遍得披寻。时五代史既未出，延寿不敢使人抄录，家素贫罄，又不办雇人书写。至于魏、齐、周、隋、宋、齐、梁、陈正史，并手自写，本纪依司马迁体，以次连缀之。又从此八代正史外，更勘杂史于正史所无者一千余卷，皆以编入。其烦冗者，即削去之。始末修撰，凡十六载。始宋，凡八代，为《北史》、《南史》二书，合一百八十卷。其《南史》先写讫，以呈监国史、国子祭酒令狐德棻，始末蒙读了，乖失者亦为改正，许令闻奏。次以《北史》咨知，亦为详正。因遍咨宰相，乃上表。表曰：