六月庚子，建义于信都，尚未显背尔朱氏。及李元忠与高乾平殷州，斩尔朱羽生首来谒，神武抚膺曰："今日反决矣。"乃以元忠为殷州刺史。是时兵威既振，乃抗表罪状尔朱氏。世隆等秘表不通。八月，尔朱兆攻陷殷州，李元忠来奔。孙腾以为朝廷隔绝，不权立天子，则众望无所系。十月壬寅，奉章武王融子渤海太守朗为皇帝，年号中兴，是为废帝。时度律、仲远军次阳平，尔朱兆会之。神武用窦泰策，纵反间，度律、仲远不战而还。神武乃败兆于广阿。十一月，攻邺，相州刺史刘诞婴城固守。神武起土山，为地道，往往建大柱，一时焚之，城陷入地。麻祥时为汤阴令，神武呼之曰："麻都！"祥惭而逃。永熙元年正月壬午，拔邺城，据之。废帝进神武大丞相、柱国大将军、太师。是时青州建义，大都督崔灵珍、大都督耿翔皆遣使归附。行汾州事刘贵弃城来降。闰三月，尔朱天光自长安、兆自并州、度律自洛阳、仲远自东郡同会邺，众号二十万，挟洹水而军，节闵以长孙承业为大行台总督焉。神武令封隆之守邺，自出顿紫陌。时马不满二千，步兵不至三万，众寡不敌。乃于韩陵为圆阵，连牛驴以塞归道，于是将士皆有死志，四面赴击之。尔朱兆责神武以背己，神武曰："本戮力者，共辅王室，今帝何在？"兆曰："永安枉害天柱，我报仇耳。"神武曰："我昔日亲闻天柱计，汝在户前立，岂得言不反邪？且以君杀臣，何报之有？今日义绝矣。"乃合战，大败之。尔朱兆对慕容绍宗叩心曰："不用公言，以至于此！"将轻走。绍宗反旗鸣角，收聚散卒，成军容而西上。高季式以七骑追奔，度野马岗，与兆遇。高昂望之不见，哭曰："丧吾弟矣！"夜久，季式还，血满袖。斛斯椿倍道先据河桥。初，普泰元年十月，岁星、荧惑、镇星、太白聚于觜，参色甚明。太史占云当有王者兴。是时神武起于信都，至是而破兆等。四月，斛斯椿执天光、度律送洛阳。长孙承业遣都督贾显智、张欢入洛阳，执世隆、彦伯斩之。兆奔并州。仲远奔梁州，遂死焉。时凶蠹既除，朝廷庆悦。初，未战之前月，章武人张绍夜中忽被数骑将逾城，至一大将军前，敕绍为军导向邺，云佐受命者除残贼。绍回视之，兵不测，整疾无声。将至邺，乃放焉。及战之日，尔朱氏军人见阵外士马四合，盖神助也。
既而神武至洛阳，废节闵及中兴主而立孝武。孝武既即位，授神武大丞相、天柱大将军、太师、世袭定州刺史，增封并前十五万户。神武辞天柱，减户五万。壬辰，还邺，魏帝饯于乾脯山，执手而别。
七月壬寅，神武帅师北伐尔朱兆。封隆之言："侍中斛斯椿、贺拔胜、贾显智等往事尔朱，普皆反噬，今在京师，宠任，必构祸隙。"神武深以为然，乃归天光、度律于京师，斩之。遂自滏口入。尔朱兆大掠晋阳，北保秀容。并州平。神武以晋阳四塞，乃建大丞相府而定居焉。尔朱兆既至秀容，分兵守险，出入寇抄。神武扬声讨之，师出止者数四，兆意怠。神武揣其岁首当宴会，遣窦泰以精骑驰之，一日一夜行三百里，神武以大军继之。二年正月，窦泰奄至尔朱兆庭。军人因宴休惰，忽见泰军，惊走。追破之于赤洪岭。兆自缢，神武亲临厚葬之。慕容绍宗以尔朱荣妻子及余众自保乌突城，降，神武以义故，待之甚厚。
神武之入洛也，尔朱仲远部下都督桥宁、张子期自滑台归命，神武以其助乱，且数反覆，皆斩之。斛斯椿由是内不自安，乃与南阳王宝炬及武卫将军元毗、魏光、王思政构神武于魏帝。舍人元士弼又奏神武受敕大不敬。故魏帝心贰于贺拔岳。初，孝明之时，洛下以两拔相击，谣言曰："铜拔打铁拔，元家世将末。"好事者以二拔谓拓拔、贺拔，言俱将衰败之兆。时司空高乾密启神武，言魏帝之贰，神武封呈。魏帝杀之，又遣东徐州刺史潘绍业密敕长乐太守庞苍鹰令杀其弟昂。昂先闻其兄死，以槊刺柱，伏壮士执绍业于路，得敕书于袍领，来奔。神武抱其首，哭曰："天子枉害司空！"遽使以白武幡劳其家属。时乾次弟慎在光州，为政严猛，又从部下取纳，魏帝使代之。慎闻难，将奔梁。其属曰："公家勋重，必不兄弟相及。"乃弊衣推鹿车归渤海。逢使者，亦来奔。于是魏帝与神武隙矣。
阿至罗虏正光以前常称藩，自魏朝多事，皆叛。神武遣使招纳，便附款。先是，诏以寇贼平，罢行台。至是，以殊俗归降，复授神武大行台，随机处分。神武常赉其粟帛，议者以为徒费无益，神武不从，抚慰如初。其酋帅吐陈等感恩，皆从指麾，救曹泥，取万俟受洛干，大收其用。河西费也头虏纥豆陵伊利居河池，恃险拥众，神武遣长史侯景屡招不从。