仁宗初亲政，罢百官转对，存请复之。又言："前者曹修古辈同忤旨废黜，布衣林献可因上封事窜恶地，恐自今忠直之言，与夫理乱安危之机，蔽而不达。"因历引周昌、朱云、辛庆忌、辛毗事，以开帝意。历京东陕西、河北、转运使、户部度支副使。西边动兵，以天章阁待制为陕西都转运使。
黄德和之诬刘平也，存奏言："平与敌接战，自旦至暮，杀伤相当，因德和引却，以致溃败。方贼势甚张，非平搏战，其势必不沮；延州孤垒，非平解围，其城必不守。身既陷没，而不幸又为谗狡所困，边臣自此无复死节矣。"朝廷采其说，始遣文彦博按治，由是平得直，而德和诛。
元昊求款附，议者犹执攻讨之策。存建言："兵役不息，生民疲弊。敌既有悛心，虽名号未正，颇羁縻之。"迁龙图阁直学士，知延州。以母老惮行，徙泽州，还为待制。逾年，知成德军，复学士。
契丹与元昊结昏，阴谋相首尾，聚兵塞上而求关南。存言："河北城久不治，宜留意。"乃以为都运使，尽城诸州。入知开封府，复使河北。王则反，坐失察，降知汀州。
存婿李易攵之弟李教，因醉为妖言，事觉自缢死。或言教不死，在贝州，父母私属以存故得免。御史案验无状，犹夺职知池州，又徙郴。久之，乃复职，以吏部侍郎致仕，凡十五年，积迁礼部尚书。
存性孝友，尝为蜀郡，得奇缯文锦以归，悉布之堂上，恣兄弟择取。常曰："兄弟，手足也；妻妾，外舍人耳。奈何先外人而后手足乎？"收恤宗属，嫁聘穷嫠，不使一人失所。家居矜庄，子孙非正衣冠不见。与宾友燕接，垂足危坐终日，未尝倾倚。枣强河决，势逼冀城，或劝使他徒，曰："吾家，众所望也，苟轻举动，使一州吏民何以自安。"讫不徙。卒，年八十八，谥恭安。
论曰：蔡襄、王素、余靖，皆昭陵贤御史也。襄数论治体，推韩琦、范仲淹之贤。素请罢不急之赏，论仁宗纳二女子为非。靖黜夏竦、王举正为不可用。盖仁宗锐于求治，数君子提纲振纪而扶持之，卒成庆历之治，良有以也。夫襄精于民事，吏不敢欺；靖用兵蛮徼，卒收功名；素在西边多惠政，其尹开封，虽颇厌烦剧，再为渭州，边民老幼，至相率称贺，其惠之在民者，深矣哉。若吕溱论陈执中，则不欲以口舌中人。彭思永名士，能识程颐之贤，而不能容欧阳修之刚；蒋之奇之诬，竟坐是黜，士论憾之。刘平之死，众莫敢言，张存独处而明之。使忠义之气，死而复生，较之诸人，亦无忝焉。