同治十一年（1872）三月十二日，六十二岁的曾国藩在儿子曾纪泽的搀扶下散步，他说：“我这辈子打了不少仗，打仗是件最害人的事，造孽，我曾家后世再也不要出带兵打仗的人了。”忽然，他连呼“脚麻”，倒在儿子身上，瞬时已不能说话了。临危之际，他抬手指了指桌子上早已写好的遗嘱，大意如下：
我做官三十余年，官至极品，而学业一无所成，德行一无可许，老人徒伤，十分惶恐惭愧。今将永别，特立四条以教汝兄弟。
一是慎独则心里平静；二是主敬则身体强健；三是追求仁爱则人高兴；四是参加劳动则鬼神也敬重。
曾国藩的遗嘱对其子孙后世的影响是十分深远的，其子曾纪泽在曾国藩死后才承荫出仕，从事外交；曾纪鸿一生钻研数学；孙子曾广钧中进士后，终老翰林；曾孙、玄孙辈中大都出国留学，曾氏后代子孙没有一个加入行伍之列，甚至也极少有人出仕。曾家后裔恪遵先祖遗言，远离尔虞我诈钩心斗角的政界、军界，洁身自好，大隐于世。