寻命巡视北城。试俸满，部议调外，因假归。三十一年，卒。三十三年，江南学政缺，上欲用陇其，侍臣奏陇其已卒，乃用邵嗣尧，嗣尧故与陇其同以清廉行取者也。雍正二年，世宗临雍，议增从祀诸儒，陇其与焉。乾隆元年，特谥清献，加赠内阁学士兼礼部侍郎。
著有困勉录、松阳讲义、三鱼堂文集。其为学专宗朱子，撰学术辨。大指谓王守仁以禅而讬於儒，高攀龙、顾宪成知辟守仁，而以静坐为主，本原之地不出守仁范围，诋斥之甚力。为县崇实政，嘉定民颂陇其，迄清季未已。灵寿邻县阜平为置冢，民陆氏世守焉，自号陇其子孙。
张伯行，字孝先，河南仪封人。康熙二十四年进士，考授内阁中书，改中书科中书。丁父忧归，建请见书院，讲明正学。仪封城北旧有堤，三十八年六月，大雨，溃，伯行募民囊土塞之。河道总督张鹏翮行河，疏荐堪理河务，命以原衔赴河工，督修黄河南岸堤二百馀里及马家港、东坝、高家堰诸工。四十二年，授山东济宁道。值岁饥，即家运钱米，并制棉衣，拯民饥寒。上命分道治赈，伯行赈汶上、阳穀二县，发仓穀二万二千六百石有奇。布政使责其专擅，即论劾，伯行曰：“有旨治赈，不得为专擅。上视民如伤，仓穀重乎？人命重乎？”乃得寝。四十五年，上南巡，赐“布泽安流”榜。
寻迁江苏按察使。四十六年，复南巡，至苏州，谕从臣曰：“朕闻张伯行居官甚清，最不易得。”时命所在督抚举贤能官，伯行不与。上见伯行曰：“朕久识汝，朕自举之。他日居官而善，天下以朕为知人。”擢福建巡抚，赐“廉惠宣猷”榜。伯行疏请免台湾、凤山、诸罗三县荒赋。福建米贵，请发帑五万巿湖广、江西、广东米平粜。建鼇峰书院，置学舍，出所藏书，搜先儒文集刊布为正谊堂丛书，以教诸生。福州民祀瘟神，命毁其偶像，改祠为义塾，祀朱子。俗多尼，鬻贫家女，髡之至千百，伯行命其家赎还择偶，贫不能赎，官为出之。
四十八年，调江苏巡抚，赈淮、扬、徐三府饥。会布政使宜思恭以司库亏空为总督噶礼劾罢，上遣尚书张鹏翮按治。陈鹏年以苏州知府署布政使，议司库亏三十四万，分扣官俸役食抵补，伯行咨噶礼会题，不应。伯行疏上闻，上命鹏翮并按。别疏陈噶礼异议状，上谕廷臣曰：“览伯行此疏，知与噶礼不和。为人臣者，当以国事为重。朕综理机务垂五十年，未尝令一人得逞其私。此疏宜置不问。”伯行寻乞病，上不许。鹏翮请责前任巡抚于准及思恭偿十六万，馀以官俸役食抵补。上曰：“江南亏空钱粮，非官吏侵蚀。朕南巡时，督抚肆意挪用而不敢言。若责新任官补偿，朕心实有不忍。”命察明南巡时用款具奏。伯行又疏奏各府州县无著钱粮十万八千，上命并予豁免。
噶礼贪横，伯行与之迕。五十年，江南乡试副考官赵晋交通关节，榜发，士论譁然，舆财神入学宫。伯行疏上其事，正考官左必蕃亦以实闻，命尚书张鹏翮、侍郎赫寿按治，伯行与噶礼会鞫，得举人吴泌、程光奎通贿状，词连噶礼。伯行请解噶礼任付严审，噶礼不自安，亦摭伯行七罪讦奏。上命俱解任，鹏翮等寻奏晋与泌、光奎通贿俱实，拟罪如律；噶礼交通事诬，伯行应夺官。上切责鹏翮等掩饰，更命尚书穆和伦、张廷枢覆按，仍如前议。上曰：“伯行居官清正，天下所知。噶礼才虽有馀而喜生事，无清正名。此议是非颠倒，命九卿、詹事、科道再议。”明日，召九卿等谕曰：“伯行居官清廉，噶礼操守朕不能信。若无伯行，则江南必受其朘削几半矣。此互参一案，初遣官往审，为噶礼所制，致不能得其情；再遣官往审，与前无异。尔等能体朕保全清官之意，使正人无所疑惧，则海宇升平矣。”遂夺噶礼官，命伯行复任。
五十二年，江苏布政使缺员，伯行疏荐福建布政使李发甲、台湾道陈瑸、前祭酒余正健，上已以湖北按察使牟钦元擢任。未几，伯行劾钦元匿通海罪人张令涛署中，请逮治。令涛兄元隆居上海，造海船，出入海洋，拥厚赀，结纳豪贵。会部檄搜缉海贼郑尽心馀党，崇明水师捕渔船，其舟人福建产，冒华亭籍，验船照为元隆所代领，伯行欲穷治。是时令涛在噶礼幕，元隆称病不就逮，狱未竟而死於家。噶礼前劾伯行，因摭其事为七罪之一。会上海县民顾协一诉令涛据其房屋，别有水寨数处窝藏海贼，称令涛今居钦元署中。上命总督赫寿察审，赫寿庇令涛，以通贼无证闻；复命鹏翮及副都御史阿锡鼐按其事，鹏翮等奏元隆、令涛皆良民，请夺伯行官。上命复审，且命伯行自陈，伯行疏言：“元隆通贼，虽报身故，而金多党众，人人可以冒名，处处可以领照。令涛乃顾协一首告，若其不实，例应坐诬；钦元庇匿，致案久悬。臣为地方大吏，杜渐防微，岂得不究？”既命解任，鹏翮等仍以伯行诬陷良民、挟诈欺公，论斩，法司议如所拟，上免其罪，命伯行来京。