张洞，字仲通，开封祥符人。父惟简，太常少卿。洞为人长大，眉目如画，自幼开悟，卓荦不群。惟简异之，抱以访里之卜者。曰："郎君生甚奇，必在策名，后当以文学政事显。"既诵书，日数千言，为文甚敏。未冠，晔然有声，遇事慷慨，自许以有为。时，赵元昊叛扰边。关、陇萧然，困于飞挽，且屡丧师。仁宗太息，思闻中外之谋。洞以布衣求上方略，召试舍人院，擢试将作监主簿。
寻举进士中第，调涟水军判官，遭亲丧去，再调颍州推官。民刘甲者，强弟柳使鞭其妇，既而投杖，夫妇相持而泣。甲怒，逼柳使再鞭之。妇以无罪死。吏当夫极法，知州欧阳修欲从之。洞曰："律以教令者为首，夫为从，且非其意，不当死。"众不听，洞即称疾不出，不得已谳于朝，果如洞言，修甚重之。
晏殊知永兴军，奏管勾机宜文字。殊儒臣，喜客，游其门者皆名士，尤深敬洞。改大理丞、知巩县。会殊留守西京，复奏知司录。殊晚节骤用刑，幕府无敢言。洞平居与殊赋诗饮酒，倾倒无不至，当事有官责，持议甚坚，殊为沮止，洞亦自以不负其知。
枢密副使高若讷、参知政事吴育荐其文学，宜为馆职，召试学士院，充秘阁校理、判祠部。时天下户口日蕃，民去为僧者众。洞奏："至和元年，敕增岁度僧，旧敕诸路三百人度一人，后率百人度一人；又文武官、内臣坟墓，得置寺拨放，近岁滋广。若以勋劳宜假之者，当依古给户守冢，禁毋樵采而已。今祠部帐至三十余万僧，失不裁损，后不胜其弊。"朝廷用其言，始三分减一。知太常礼院，宰相陈执中将葬，洞与同列谥为荣灵，其孙诉之，诏孙抃等复议，改曰恭。洞驳奏："执中位宰相，无功德而罪戾多，生不能正法以黜之，死犹当正名以诛之。"竟从抃等议。
初，皇后郭氏忤旨得罪废没，后仁宗悔之，诏追复其号，二十余年矣。至是，有司请祔于庙。知制诰刘敞以谓："《春秋》书'禘于太庙，用致夫人'。致者，不宜致也。且古者不二嫡，当许其号，不许其礼。"洞奏："后尝母天下，无大过恶，中外所知。陛下既察其偶失恭顺，洗之于既没，犹曰不许其礼，于义无当。且废后立后，何嫌于嫡？此当时大臣护已然之失，乖正名之典，而敞复引《春秋》'用致夫人'。按《左氏》哀姜之恶所不忍道，而二《传》有非嫡之辞，敞议非是。若从变礼，尚当别立庙。"不行。转太常博士，判登闻鼓院。仁宗方响儒术，洞在馆阁久，数有建明，仁宗以为知《经》，会覆考进士崇政殿，因赐飞白"善经"字宠之。洞献诗谢，复赐诏奖谕。
出知棣州，转尚书祠部员外郎。河北地当六塔之冲者，岁决溢病民田。水退，强者遂冒占，弱者耕居无所。洞奏一切官为标给，蠲其租以绥新集。河北东路民富蚕桑，契丹谓之"绫绢州"，朝廷以为内地不虑。洞奏："今沧、景，契丹可入之道，兵守多缺，契丹时以贩盐为名，舟往来境上，此不可不察。愿度形势，置帅、增屯戍以控扼之。"
时天下久安，荐绅崇尚虚名，以宽厚沉默为德，于事无所补，洞以谓非朝廷福。又谓："谏官持谏以震人主，不数年至显仕，此何为者。当重其任而缓其迁，使端良之士不亟易，而浮躁者绝意。"致书欧阳修极论之。召权开封府推官。
英宗即位，转度支员外郎。英宗哀疚，或经旬不御正殿，洞上言："陛下春秋鼎盛，初嗣大统，岂宜久屈刚健，自比冲幼之主。当躬万机，揽群材，以称先帝付畀之意，厌元元之望。"大臣亦以为言，遂听政。命考试开封进士，既罢，进赋，题曰《孝慈则忠》。时方议濮安懿王称皇事，英宗曰："张洞意讽朕。"宰相韩琦进曰："言之者无罪，闻之者足以戒。"英宗意解。
诏讯祁国公宗说狱，宗说恃近属，贵骄不道，狱具，英宗以为辱国，不欲暴其恶。洞曰："宗说罪在不宥。虽然，陛下将惩恶而难暴之，独以其坑不辜数人，置诸法可矣。"英宗喜曰："卿知大体。"洞因言："唐宗室多贤宰相名士，盖其知学问使然。国家本支蕃衍，无亲疏一切厚廪之，不使知辛苦。婢妾声伎，无多寡之限，至灭礼义，极嗜欲。贷之则乱公共之法，刑之则伤骨肉之爱。宜因秩品立制度，更选老成教授之。"宗室缘是怨洞，痛诋訾言，上亦起藩邸，赖察之，不罪也。
转司封员外郎、权三司度支判官。对便殿称旨，英宗遂欲进用，大臣忌之，出为江西转运使。江西荐饥，征民积岁赋，洞为奏免之。又民输绸绢不中度者，旧责以满匹，洞命计尺寸输钱，民便之。移淮南转运使，转工部郎中。淮南地不宜麦，民艰于所输，洞复命输钱，官为籴麦，不逾时而足。洞在棣时，梦人称敕召者，既出，如拜官然，顾视旌旗吏卒罗于庭。至是，梦之如初。自以年不能永，教诸子部分家事。未几卒，年四十九。