建德三年，进爵为王。宪友刘休征献《王箴》一首，宪美之。休征后又以此箴上高祖。高祖方剪削诸弟，甚悦其文。宪常以兵书繁广，难求指要，乃自刊定为《要略》五篇，至是表陈之。高祖览而称善。其秋，高祖幸云阳宫，遂寝疾。卫王直于京师举兵反。高祖召宪谓曰："卫王构逆，汝知之乎？"宪曰："臣初不知，今始奉诏。直若逆天犯顺，此则自取灭亡。"高祖曰："汝即为前军，吾亦续发。"直寻败走。高祖至京师，宪与赵王招俱入拜谢。高祖曰："管蔡为戮，周公作辅，人心不同，有如其面。但愧兄弟亲寻干戈，于我为不足耳。"初，直内深忌宪，宪隐而容之。且以帝之母弟，每加友敬。晋公护之诛也，直固请及宪。高祖曰："齐公心迹，吾自悉之，不得更有所疑也。"及文宣皇后崩，直又密启云："宪饮酒食肉，与平日不异。"高祖曰："吾与齐王异生，俱非正嫡，特为吾意，今袒括是同。汝当愧之，何论得失。汝亲太后之子，偏荷慈爱。今但须自勖，无假说人。"直乃止。
四年，高祖将欲东讨，独与内史王谊谋之，余人莫得知也。后以诸弟才略，无出于宪右，遂告之。宪即赞成其事。及大军将出，宪表上私财以助军费曰："臣闻抚机适运，理藉时来，兼弱攻昧，事资权道。伏惟陛下继明作圣，阐业弘风，思顺天心，用恢武略。方使长蛇外剪，宇宙大同，军民内向，车书混一。窃以龙旗雷动，天网云布，刍粟粮饩，或须周给。昔边隅未静，卜式愿上家财；江海不澄，卫兹请献私粟。臣虽不敏，敢忘景行。谨上金宝等一十六件，少助军资。"诏不纳，而以宪表示公卿曰："人臣当如此，朕贵其心耳，宁须物乎。"乃诏宪率众二万为前军，趣黎阳。高祖亲围河阴，未克。宪攻拔武济，进围洛口，收其东西二城。以高祖疾，班师。是岁，初置上柱国官，以宪为之。
五年，大举东讨，宪率精骑二万，复为前锋，守雀鼠谷。高祖亲围晋州。宪进兵克洪同、永安二城，更图进取。齐人焚桥守险，军不得进，遂屯于永安。齐主闻晋州见围，乃将兵十万，自来援之。时柱国、陈王纯顿军千里径，大将军、永昌公椿屯鸡栖原，大将军宇文盛守汾水关，并受宪节度。宪密谓椿曰："兵者诡道，去留不定，见机而作，不得遵常。汝今为营，不须张幕，可伐柏为庵，示有形势。令兵去之后，贼犹致疑也。"时齐主分军万人向千里径，又令其众出汾水关，自率大兵与椿对阵。宇文盛驰骑告急，宪自以千骑救之。齐人望谷中尘起，相率遽退。盛与柱国侯莫陈芮涉汾逐之，多有斩获。俄而椿告齐众稍逼，宪又回军赴之。会椿被敕追还，率兵夜返。齐人果谓柏庵为帐幕也，不疑军退，翌日始悟。
时高祖已去晋州，留宪为后拒。齐主自率众来追，至于高梁桥。宪以精骑二千，阻水为阵。齐领军段畅直进至桥。宪隔水招畅与语，语毕，宪问畅曰："若何姓名？"畅曰："领军段畅也。公复为谁？"宪曰："我虞候大都督耳。"畅曰："观公言语，不是凡人，今日相见，何用隐其名位？"陈王纯、梁公侯莫陈芮、内史王谊等并在宪侧。畅固问不已。宪乃曰："我天子太弟齐王也。"指陈王以下，并以名位告之。畅鞭马而去，宪即命旋军，而齐人遽追之，戈甲甚锐。宪与开府宇文欣各统精卒百骑为殿以拒之，斩其骁将贺兰豹子、山褥瑰等百余人，齐众乃退。宪渡汾而及高祖于玉壁。
高祖又令宪率兵六万，还援晋州。宪遂进军，营于涑水。齐主攻围晋州，昼夜不息。间谍还者，或云已陷。宪乃遣柱国越王盛、大将军尉迟运、开府宇文神举等轻骑一万夜至晋州。宪进军据蒙坑，为其后援。知城未陷，乃归涑川。寻而高祖东辕，次于高显。宪率所部，先向晋州。明日，诸军总集，稍逼城下。齐人亦大出兵，阵于营南。高祖召宪驰往观之。宪返命曰："是易与耳，请破之而后食。"帝悦曰："如汝所言，吾无忧矣。"宪退，内史柳虬私谓宪曰："贼亦不少，王安得轻之？"宪曰："宪受委前锋，情兼家国，扫此逋寇，事等摧枯。商周之事，公所知也。贼兵虽众，其如我何。"既而诸军俱进，应时大溃。其夜，齐主遁走，宪轻骑追之。既及永安，高祖续至。齐人收其余众，复据高壁及洛女寨。高祖命宪攻洛女，破之。明日，与大军会于介休。
时齐主已走邺，留其从兄安德王延宗据并州。延宗因僣伪号，出兵拒战。高祖进围其城，宪攻其西面，克之。延宗遁走，追而获之。以功进封第二子安城公质为河间王，拜第三子賨为大将军。仍诏宪先驱趣邺。明年，进克邺城。