张宪，字允中，晋阳人，世以军功为牙校。宪始童丱，喜儒学，励志横经，不舍昼夜。太原地雄边服，人多尚武，耻于学业，惟宪与里人药纵之精力游学，弱冠尽通诸经，尤精《左传》。尝袖行所业，谒判官李袭吉，一见欣叹。既辞，谓宪曰：“子勉之，将来必成佳器。”石州刺史杨守业喜聚书，以家书示之，闻见日博。
庄宗为行军司马，广延髦俊，素知宪名，令朱守殷赍书币延之。岁余，释褐交城令，秩满，庄宗嗣世，补太原府司录参军。时霸府初开，幕客马郁、王缄，燕中名士，尽与之游。十二年，庄宗平河朔，念藩邸之旧，征赴行台。十三年，授监察，赐绯，署魏博推官，自是恒簪笔扈从。十五年，王师战胡柳，周德威军不利，宪与同列奔马北渡；梁军急追，殆将不济。至晚渡河，人皆陷水而没，宪与从子朗履冰而行；将及岸，冰陷，朗泣，以马箠引之，宪曰：“吾儿去矣，勿使俱陷。”朗曰：“忍季父如此，俱死无恨。”朗偃伏引箠，宪跃身而出。是夜，庄宗令于军中求宪，或曰：“与王缄俱殁矣！”庄宗垂涕求尸，数日，闻其免也，遣使慰劳。寻改掌书记、水部郎中，赐金紫，历魏博观察判官。从讨张文礼，镇州平，授魏、博、镇、冀十郡观察判官，改考功郎中，兼御史中丞，权镇州留事。庄宗即位，诏还魏都，授尚书工部侍郎，充租庸使。八月，改刑部侍郎，判吏部铨，兼太清宫副使。庄宗迁洛阳，以宪检校吏部尚书、兴唐尹、东京副留守，知留守事。宪学识优深，尤精吏道，剖析听断，人不敢欺。
三年春，车驾幸邺，时易定王都来朝，宴于行宫，将击鞠。初，庄宗行即位之礼，卜鞠场吉，因筑坛于其间，至是诏毁之。宪奏曰；“即位坛是陛下祭接天神受命之所，自风燥雨濡之外，不可辄毁，亦不可修。魏繁阳之坛，汉汜水之〈土单〉，到今犹有兆象。存而不毁，古之道也。”即命治之于宫西。数日，未成。会宪以公事获谪，阁门待罪，上怒，戒有司速治行宫之庭，碍事者毕去，竟毁即位坛。宪私谓郭崇韬曰；“不祥之甚，忽其本也。”
秋，崇韬将兵征蜀，以手书告宪曰：“允中避事久矣，余受命西征，已奏还公黄阁。”宪报曰：“庖人之代尸祝，所谓非吾事也。”时枢密承旨段徊当权任事，以宪从龙旧望，不欲宪在朝廷。会孟知祥镇蜀川，选北京留守，徊扬言曰：“北门，国家根本，非重德不可轻授；今之取才，非宪不可。”趋时者因附徊势，巧中伤之。又曰：“宪有相业，然国祚中兴，宰相在天子面前，得失可以改作；一方之事，制在一人，惟北面事重。”十一月，授宪银青光禄大夫、检校吏部尚书、太原尹、北京留守，知府事。
四年二月，赵在礼入魏州。时宪家属在魏，关东俶扰，在礼善待其家，遣人赍书至太原诱宪。宪斩其使，书不发函而奏。既而明宗为兵众所劫，诸军离散，地远不知事实，或谓宪曰：“蜀军未至，洛阳窘急，总管又失兵权，制在诸军之手，又闻河朔推戴，事若实然，或可济否？”宪曰：“治乱之机，间不容发，以愚所断，事未可知。愚闻药纵之言，总管德量仁厚，素得士心，余勿多言，志此而已。”四月五日，李存渥自洛阳至，口传庄宗命，并无书诏，惟云天子授以只箭，传之为信。众心惑之，时事莫测。左右献画曰：“存渥所乘马，已戢其饰，复召人谋事，必行阴祸，因欲据城。宁我负人，宜早为之所，但戮吕、郑二宦，且系存渥，徐观其变，事万全矣。”宪良久曰：“吾本书生，无军功而致身及此，一旦自布衣而纡金紫，向来仕宦非出他门，此画非吾心也。事苟不济，以身徇义。”（《东都事略·张昭传》：昭劝宪奉表明宗以劝进，宪曰：“吾书生也，天子委以保厘之任，吾岂苟生者乎！”昭曰：“此古之大节，公能行之，忠臣也。”宪既死，论者以昭能成宪之节。）翌日，符彦超诛吕、郑，军城大乱，燔剽达曙。宪初闻有变，出奔沂州。既而有司纠其委城之罪，四月二十四日，赐死于晋阳之千佛院。幼子凝随父走，亦为收者加害。明宗郊礼大赦，有司请昭雪，从之。宪沈静寡欲，喜聚图书，家书五千卷，视事之余，手自刊校。善弹琴，不饮酒，宾僚宴语，但论文啸咏而已，士友重之。