帝谓诸军曰："高欢虽智不足而诈有余，今声言欲西，其意在入洛。吾欲令寇洛率马步万余，自泾州东引；王罴率甲士一万，先据华州。欢若西来，王罴足得抗拒；如其入洛，寇洛即袭汾、晋。吾便速驾，直赴京邑，使其进有内顾之忧，退有被蹑之势。一举大定，此为上策。"众咸称善。七月，帝帅众发自高平，前军至于弘农。而齐神武稍逼京师，魏帝亲总六军屯河桥，令左卫元斌之、领军斛斯椿镇武牢。帝谓左右曰："高欢数日行八九百里，晓兵者所忌，正须乘便击之。而主上以万乘之重，不能度河决战，方缘津据守。且长河万里，捍御为难，一处得度，大事去矣。"即以大都督赵贵为别道行台，自蒲坂济，趣并州。遣大都督李贤将精骑一千赴洛阳。会斌之与斛斯椿争权，镇防不守，魏帝遂轻骑入关。帝备仪卫奉迎，谒见于阳驿，免冠流涕谢罪。乃奉魏帝都长安。披草莱，立朝廷，军国之政，咸取决于帝。仍加授大将军、雍州刺史，兼尚书令，进封略阳郡公。别置二尚书，随机处分。解尚书仆射，余如故。
初，魏帝在洛阳，许以冯翊长公主配帝，未及结纳而魏帝西迁。至是诏帝尚之，拜附马都尉。八月，齐神武袭陷潼关，侵华阴。帝率诸军屯霸上以待之。神武留其将薛瑾守关而退。帝乃进军斩瑾，虏其卒七千。还长安，进位丞相。十一月，遣仪同李虎与李弼、赵贵等讨曹泥于灵州，虎引河灌之。明年，泥降，迁其豪帅于咸阳。十二月，魏孝武帝崩，帝与群公定册，尊立魏南阳王宝炬为嗣，是为文帝。
大统元年正月己酉，魏帝进帝都督中外诸军、录尚书事、大行台，改封安定郡王。帝固让王及录尚书。魏帝许之，乃改封安定郡公。东魏将同司马子如寇潼关，帝军霸上。子如乃回军自蒲津寇华州，刺史王罴击走之。三月，帝命有司为二十四条新制，奏行之。
二年五月，秦州刺史、建忠王万俟普拨率所部入东魏。帝轻骑追之，至河北千余里，不及而还。
三年正月，东魏寇龙门，屯军蒲坂，造三道浮桥度河。又遣其将窦泰趣潼关，高昂围洛州。帝出军广阳，召诸将谓曰："贼掎吾三面，又造桥，示欲必度，是欲缀吾军，使窦泰得西入耳。且欢起兵以来，泰每先驱，下多锐卒，屡胜而骄。今袭之必克。克泰，则欢不战而走矣。"诸将咸曰："贼在近，舍而袭远；若差跌，悔何及也。"帝曰："欢前再袭潼关，吾军不过霸上。今者大来，谓吾但自守耳。又狃于得志，有轻我之心。乘此击之，何往不克。贼虽造桥，未能径度，比五日中，吾取泰必矣。"庚戌，帝还长安，声言欲向陇右。辛亥，谒魏帝而潜军至小关。窦泰卒闻军至，陈未成，帝击之。尽俘其众，斩泰，传首长安。高昂闻之，焚辎重而走。齐神武亦撤桥而退。帝乃还。六月，帝请罢行台，魏帝复申前命，授帝录尚书事，固让乃止。八月丁丑，帝率李弼、独孤信、梁御、赵贵、于谨、若干惠、怡峰、刘亮、王德、侯莫陈崇、李远、达奚武等十二将东伐，至潼关。帝乃誓于师曰："与尔有众，奉天威，诛暴乱。惟尔众士，整尔甲兵，戒尔戎事，无贪财以轻敌，无暴人以作威。用命则有赏，不用命则有戮，尔众士其勉之。"乃遣于谨先徇地至盘豆，拔之。获东魏将高叔礼，送于长安。戊子，至弘农，攻之，城溃。禽东魏陕州刺史李徽伯，虏其战士八千。守将高千走度河，命贺拔胜追禽之，并送长安。于是宜阳、邵郡皆归附。先是河南豪杰应东魏者，皆降。齐神武惧，率众下蒲坂，将自后土济。遣其将高昂以三万人出河南。是岁，关中饥，帝馆谷于弘农五十余日。时军士不满万人，闻神武将度，乃还。神武遂度河，逼华州。刺史王罴严守，乃涉洛，军于许原西。帝至渭南，征诸州兵，未会。将击之，诸将以众寡不敌，请且待欢更西以观之。帝曰："欢若至咸阳，人情转骚扰。今及其新至，可击之。"即造浮桥于渭，令军士赍三日粮，轻骑度渭，辎重自渭南，夹渭而西。十月壬辰，至沙苑。距齐军六十余里，神武引军来会。癸巳，侯骑告齐军至，帝召诸将谋。李弼曰："彼众我寡，不可平地置阵。此东十里，有渭曲，可先据以待之。"遂进至渭，背水东西为阵。李弼为右拒，赵贵为左拒。命将士皆偃戈于葭芦中，闻鼓声而起。日晡，齐师至，望见军少，竞萃于左，军乱不成列。兵将交，帝鸣鼓，士皆奋起。于谨等六军与之合战，李弼等率铁骑横击之。绝其军为二，遂大破之，斩六千余级，临阵降者二万余人。神武夜遁，追至河上，复大克。前后虏其卒七万，留其甲兵二万，余悉纵归。收其辎重兵甲，献俘长安。李穆曰："高欢胆破矣，逐之可获。"帝不听，乃还军渭南。时所征诸州兵始至。乃于战所，准当时兵，人种树一株，栽柳七千根，以旌武功。魏帝进帝柱国大将军，增邑并前五千户。李弼等十二将，亦进爵增邑。以左仆射、冯翊王元季海为行台，与开府独孤信帅步骑二万向洛阳。贺拔胜、李弼度河围蒲坂。蒲坂镇将高子信开门纳胜军，东魏将薛崇礼弃城走，胜等追获之。帝进军蒲坂，略定汾、绛。初，帝自弘农入关后，东魏将高昂围弘农。闻其军败，退守洛阳。独孤信至新安，昂复走度河，遂入洛阳。自梁、陈已西，将吏降者相属。于是东魏将尧雄、赵育、是云宝出颍川，欲复降地。帝遣仪同宇文贵、梁迁等逆击，大破之，赵育来降。东魏复遣任祥率河南兵与尧雄合，仪同怡峰与贵、迁等复击破之。又遣都督韦孝宽取豫州。是云宝杀其东扬州刺史那椿，以州来降。