二年正月，史思明自率范阳精卒复陷魏州，乃伪称燕王。王师虽众，军无统帅，进退无所承禀，自冬徂春，竟未破贼，但引漳水以灌其城，城中食尽，易子而食。二月，思明率众自魏州来。李光弼、王思礼、许叔冀、鲁炅前军遇贼于邺南，与之接战，夷伤相半，鲁炅中流矢。子仪为后阵，未及合战，大风遽起，吹沙拔木，天地晦暝，跬步不辩物色。我师溃而南，贼军溃而北，委弃兵仗辎重，累积于路。诸军各还本镇。子仪以朔方军保河阳，断浮桥，有诏令留守东都。三月，以子仪为东都畿、山南东道、河南诸道行营元帅。
中官鱼朝恩素害子仪之功，因其不振，媒孽之，寻召还京师。天子以赵王系为天下兵马元帅，李光弼副之，委以陕东军事，代子仪之任。子仪虽失兵柄，乃思王室，以祸难未平，不遑寝息。俄而史思明再陷河洛，朝廷旰食，复虑蕃寇逼迫京畿，三年正月，授子仪邠宁、鄜坊两镇节度使，仍留京师。言事者以子仪有社稷大功，今残孽未除，不宜置之散地，肃宗深然之。上元元年九月，以子仪为诸道兵马都统，管崇嗣副之，令率英武、威远等禁军及河西、河东诸镇之师，取邠宁、朔方、大同、横野，径抵范阳。诏下旬日，复为朝恩所间，事竟不行。
上元二年二月，李光弼兵败于邙山，河阳失守，鱼朝恩退保陕州。三年二月，河中军乱，杀其帅李国贞。时太原节度邓景山亦为部下所杀，恐其合从连贼，朝廷忧之。后辈帅臣未能弹压，势不获已，遂用子仪为朔方、河中、北庭、潞、仪、泽、沁等州节度行营兼兴平、定国副元帅，充本管观察处置使，进封汾阳郡王，出镇绛州。三月，子仪辞赴镇，肃宗不豫，群臣莫有见者。子仪请曰："老臣受命，将死于外，不见陛下，目不瞑矣。"帝乃引至卧内，谓子仪曰："河东之事，一以委卿。"子仪呜咽流涕。赐御马、银器、杂彩，别赐绢四万疋、布五万端以赏军。子仪至绛，擒其杀国贞贼首王元振数十人诛之。太原辛云京闻子仪诛元振，亦诛害景山者，由是河东诸镇率皆奉法。四月，代宗即位，内官程元振用事，自矜定策之功，忌嫉宿将，以子仪功高难制，巧行离间，请罢副元帅，加实封七百户，充肃宗山陵使。子仪既谢恩，上表进肃宗所赐前后诏敕，因自陈诉曰：
臣德薄蝉翼，命轻鸿毛，累蒙国恩，猥厕朝列。会天地震荡，中原血战，臣北自灵武，册先皇帝，乃举兵而南，大搜于岐阳。先帝忧勤宗社，托臣以家国，俾副陛下扫两京之妖昆。陛下雄图丕断，再造区宇，自后不以臣寡劣，委文武之二柄，外敷邦教，内调鼎饪，是以常许国家之死，实荷日月之明。臣本愚浅，言多诋直，虑此招谤，上渎冕旒。陛下居高听卑，察臣不贰，皇天后土，察臣无私。伏以器忌满盈，日增兢惕，焉敢偷全，久妨贤路？自受恩塞下，制敌行间，东西十年，前后百战。天寒剑折，溅血沾衣；野宿魂惊，饮冰伤骨。跋涉难阻，出没死生，所仗唯天，以至今日。陛下曲申惠奖，念及勤劳，贻臣诏书一千余首，圣旨微婉，慰谕绸缪，彰微臣一时之功，成子孙万代之宝。自灵武、河北、河南、彭原、鄜坊、河东、凤翔、两京、绛州，臣所经行，赐手诏敕书凡二十卷，昧死上进，庶烦听览。
诏答曰："朕不德不明，俾大臣忧疑，朕之过也。朕甚自愧，公勿以为虑。"代宗以子仪顷同患难，收复两京，礼之逾厚。时史朝义尚据洛阳，元帅雍王率师进讨，代宗欲以子仪副之，而鱼朝恩、程元振乱政，杀裴茂、来瑱，子仪既为所间，其事遂寝，乃留京师。
俄而梁崇义据襄阳叛，仆固怀恩阻兵于汾州，引回纥、吐蕃之众入寇河西。明年十月，吐蕃陷泾州，虏刺史高晖，晖遂与蕃军为乡导，引贼深入京畿，掠奉天、武功，济渭而南，缘山而东。渭北行营兵马使吕日将逆战于盩厔，自辰至酉，杀蕃军数千，然其徒多殒。贼将逼京师，君上计无所出，遽诏子仪为关内副元帅，出镇咸阳。子仪自相州不利，李光弼代掌兵柄，及征还朝廷，部曲散去。及是承诏，部下唯二十骑，强取民家畜产以助军。至咸阳，蕃军已过渭水。其日，天子避狄幸陕州。子仪闻上避狄，雪涕还京，至则车驾已发。射生将王献忠从驾，沿路遂以四百骑叛，仍逼丰王已下十王欲投于贼。子仪入开远门，遇之，诘丰王等所向，遂护送行在。子仪以三千骑傍南山，至商州，得武关防兵及六军散卒四千人，招辑亡逸，其军渐振。蕃犯京城，得故邠王守礼子广武王承宏，立帝号，假署百官。子仪遣六军兵马使张知节、乌崇福、羽林军使长孙全绪等将兵万人为前锋，营于韩公堆，盛张旗帜，鼓鞞震山谷。全绪遣禁军旧将王甫入长安，阴结少年豪侠以为内应，一日，齐击鼓于朱雀街，蕃军惶骇而去。大将李忠义先屯兵苑中，渭北节度使王仲升守朝堂。子仪以大军续进，至浐西。射生将王抚自署为京兆尹，聚兵二千人，扰乱京城，子仪召抚杀之。诏子仪权京城留守。