张全义，字国维，濮州临濮人。初名居言，赐名全义，梁祖改为宗奭；庄宗定河南，复名全义。祖琏，父诚，世为田农。全义为县啬夫，尝为令所辱。乾符末，黄巢起冤句，全义亡命入巢军。巢入长安，以全义为吏部尚书，充水运使。巢败，依诸葛爽于河阳，累迁至裨校，屡有战功，爽表为泽州刺史。光启初，爽卒，其子仲方为留后。部将刘经与李罕之争据洛阳，罕之败经于圣善寺，乘胜欲攻河阳，营于洛口。经遣全义拒之，全义乃与罕之同盟结义，返攻经于河阳，为经所败，收合余众，与罕之据怀州，乞师于武皇。武皇遣泽州刺史安金俊助之，进攻河阳，刘经、仲方委城奔汴，罕之遂自领河阳，表全义为河南尹。
全义性勤俭，善抚军民，虽贼寇充斥，而劝耕务农，由是仓储殷积。（王始至洛，于麾下百人中，选可使者一十八人，命之曰屯将。每人给旗一口，榜一道，于旧十八县中，令招农户，令自耕种，流民渐归。王于百人中，又选可使者十八人，命之曰屯副，民之来者抚绥之，除杀人者死，余但加杖而已，无重刑，无租税，流民之归渐众。王又于麾下选书计一十八人，命之曰屯判官。不一二年，十八屯中每屯户至数千。王命农隙，选丁夫授以弓矢枪剑，为坐作进退之法。行之一二年，每屯增户。大者六七千，次者四千，下之二三千，共得丁夫闲弓矢、枪剑者二万余人。有贼盗即时擒捕之，刑宽事简，远近归之如市。五年之内，号为富庶，于是奏每县除令簿主之。）罕之贪暴不法，军中乏食，每取给于全义。二人初相得甚欢，而至是求取无厌，动加凌轹，全义苦之。文德元年四月，罕之出军寇晋、绛，全义乘其无备，潜兵袭取河阳，全义乃兼领河阳节度。（《洛阳搢绅旧闻记》云：罕之镇三城，知王专以教民耕织为务，常宣言于众曰：“田舍翁何足惮。”王闻之，蔑如也。每飞尺书于王，求军食及缣帛，王曰：“李太傅所要，不得不奉之。”左右及宾席咸以为不可与，王曰：“第与之。”似若畏之者，左右不晓。罕之谓王畏己，不设备。因罕之举兵收怀、泽，王乃密召屯兵，潜师夜发，迟明入三城。罕之乃逃遁投河东，朝廷即授王兼镇三城。）罕之求援于武皇，武皇复遣兵攻败河阳，会汴人救至而退。梁祖以丁会守河阳，全义复为河南尹、检校司空。全义感梁祖援助之恩，自是依附，皆从其制。
初，蔡贼孙儒、诸葛爽争据洛阳，迭相攻伐，七八年间，都城灰烬，满目荆榛。全义初至，惟与部下聚居故市，井邑穷民，不满百户。全义善于抚纳，课部人披榛种艺，且耕且战，以粟易牛，岁滋垦辟，招复流散，待之如子。每农祥劝耕之始，全义必自立畎亩，饷以酒食，政宽事简，吏不敢欺。数年之间，京畿无闲田，编户五六万。乃筑垒于故市，建置府署，以防外寇。（《洛阳缙绅旧闻记》：王每喜民力耕织者，某家今年蚕麦善，去都城一舍之内，必马足及之，悉召其家老幼，亲慰劳之，赐以酒食茶彩，丈夫遗之布裤，妇人裙衫，时民间尚衣青，妇人皆青绢为之。取其新麦新茧，对之喜动颜色，民间有窃言者曰：“大王见好声妓，等闲不笑，惟见好蚕麦即笑尔。”其真朴皆此类。每观秋稼，见田中无草者，必下马命宾客观之，召田主慰劳之，赐之衣物。若见禾中有草，地耕不熟，立召田主集众决责之。若苗荒地生，诘之，民诉以牛疲或阙人耕锄，则田边下马，立召其邻仵责之曰：“此少人牛，何不众助之。”邻仵皆伏罪，即赦之。自是洛阳之民无远近，民之少牛者相率助之，少人者亦然。田夫田妇，相劝以耕桑为务，是以家有蓄积，水旱无饥民。王诚信，每水旱祈祭，必具汤沐，素食别寝，至祠祭所，俨然若对至尊，容如不足。遇旱，祈祷未雨，左右必曰：“王可开塔”，即无畏师塔也，在龙门广化寺。王即依言而开塔，未尝不澍雨，故当时俚谚云：“王祷雨，买雨具。”）
梁祖迫昭宗东迁，命全义缮治洛阳宫城，累年方集。昭宗至洛阳，梁祖将图禅代，虑全义心有异同，乃以判官韦震为河南尹，遂移全义为天平军节度使、守中书令、东平王。（《洛阳搢绅旧闻记》：齐王与梁祖互为中书令、尚书令，及梁祖兼四镇，齐王累表让兼镇，盖潜识梁祖奸雄，避其权位，欲图自全之计。梁祖经营霸业，外则干戈屡动，内则帑庾俱虚，齐王悉心尽力，倾竭财资助之。）其年八月，昭宗遇弑，辉王即位。十月，复以全义为河南尹，兼忠武军节度使、判六军诸卫事。梁祖建号，以全义兼河阳节度使，封魏王。开平二年，册拜太保、兼陕虢节度使、河阳尹。四年，册拜太傅、河南尹、判六军，兼郑、滑等州节度使。乾化元年，册拜太师。二年，朱友珪篡逆，以全义为守太尉、河南尹、宋亳节度使兼国计使。梁末帝嗣位于汴，以全义为洛京留守，兼镇河阳。未几，授天下兵马副元帅。