六年，贼酋石达开由湖北窜江西，连陷八府一州，九江贼踞自如，湖南北声息不相闻。国藩困南昌，遣将分屯要地，羽檄交驰，不废吟诵。作水陆师得胜歌，教军士战守技艺、结营布陈之法，歌者咸感奋，以杀贼敢死为荣。顾众寡，终不能大挫贼。议者争请调泽南军，上以武汉功垂成，不可弃。泽南督战益急，卒死於军。玉麟闻江西警，芒鞋走千里，穿贼中至南昌助守。林翼已为湖北巡抚，国藩弟国华、国葆用父命乞师林翼，将五千人攻瑞州。湖南巡抚骆秉章亦资国荃兵援吉安，兄弟皆会行间。而国藩前所遣援湖北诸军，久之再克武汉，直下九江，李续宾八千人军城东。续宾者，与弟续宜皆泽南高第弟子也。载福战船四百泊江两岸，江宁将军都兴阿马队、鲍超步队驻小池口，凡数万人。国藩本以忧惧治军，自南昌迎劳，见军容甚盛，益申儆告诫之。而是时江南大营溃，督师向荣退守丹阳，卒。和春为钦差大臣，张国樑总统诸军攻江宁。
七年二月，国藩闻父忧，迳归。给三月假治丧，坚请终制，允开侍郎缺。林翼既定湖北，进围九江，破湖口，水师绝数年复合。载福连拔望江、东流，扬颿过安庆，克铜陵泥汊，与江南军通。由是湘军水师名天下。林翼以此军创始国藩，杨、彭皆其旧部，请起国藩视师。会九江克复，石达开窜浙江，浸及福建，分股复犯江西，朝旨诏国藩出办浙江军务。
国藩至江西，屯建昌，又诏援闽。国藩以闽贼不足虑，而景德地冲要，遣将援赣北，攻景德。国荃追贼至浮梁，江西列城次第复。时石达开复窜湖南，围宝庆。上虑四川且有变，林翼亦以湖北饷倚川盐，而国藩又久治兵，无疆寄，乃与官文合疏请国藩援蜀。会贼窜广西，上游兵事解，而陈玉成再破庐州，续宾战殁三河，林翼以群盗蔓庐、寿间，终为楚患，乃改议留国藩合谋皖。军分三道，各万人。国藩由宿松、石牌规安庆，多隆阿、鲍超出太湖取桐城，林翼自英山乡舒、六。多隆阿等既大破贼小池，复太湖、潜山，遂军桐城。国荃率诸军围安庆，与桐城军相犄角。安庆未及下，而皖南贼陷广德，袭破杭州。
李秀成大会群贼建平，分道援江宁，江南大营复溃，常州、苏州相继失，咸丰十年闰三月也。左宗棠闻而叹曰：“此胜败之转机也！江南诸军，将蹇兵疲久矣。涤而清之，庶几后来可藉手乎？”或问：“谁可当者？”林翼曰：“朝廷以江南事付曾公，天下不足平也。”於是天子慎选帅，就加国藩兵部尚书衔，署理两江总督，旋即真，授钦差大臣。是时江、浙贼氛炽，或请撤安庆围先所急。国藩曰：“安庆一军为克金陵张本，不可动也。”遂南渡江，驻祁门。江、浙官绅告急书日数十至，援苏、援沪、援皖、援镇江诏书亦叠下。国藩至祁门未数日，贼陷宁国，陷徽州。东南方困兵革，而英吉利复失好，以兵至。僧格林沁败绩天津，文宗狩热河，国藩闻警，请提兵北上，会和议成，乃止。
其冬，大为贼困，一出祁门东陷婺源；一出祁门西陷景德；一入羊栈岭攻大营。军报绝不通，将吏惵然有忧色，固请移营江干就水师。国藩曰：“无故退军，兵家所忌。”卒不从，使人间行檄鲍超、张运兰亟引兵会。身在军中，意气自如，时与宾佐酌酒论文。自官京朝，即日记所言行，后履危困无稍间。国藩驻祁门，本资饷江西，及景德失，议者争言取徽州通浙米。乃自将大军次休宁，值天雨，八营皆溃，草遗嘱寄家，誓死守休宁。適宗棠大破贼乐平，运道通，移驻东流。多隆阿连败贼桐城，鲍超一军游击无定居，林翼复遣将助之。十一年八月，国荃遂克安庆。捷闻，而文宗崩，林翼亦卒。穆宗即位，太后垂帘听政，加国藩太子少保衔，命节制江苏、安徽、江西、浙江四省。国藩惶惧，疏辞，不允，朝有大政，咨而后行。
当是时，伪天王洪秀全僣号踞金陵，伪忠王李秀成等犯苏、沪，伪侍王李世贤等陷浙杭，伪辅王杨辅清等屯宁国，伪康王汪海洋窥江西，伪英王陈玉成屯庐州，捻首苗霈霖出入颍、寿，与玉成合，图窜山东、河南，众皆号数十万。国藩与国荃策进取，国荃曰：“急捣金陵，则寇必以全力护巢穴，而后苏、杭可图也。”国藩然之。乃以江宁事付国荃，以浙江事付宗棠，而以江苏事付李鸿章。鸿章故出国藩门，以编修为幕僚，改道员，至是令从淮上募勇八千，选良将付之，号“淮军”。同治元年，拜协办大学士，督诸军进讨。於是国荃有捣金陵之师，鸿章有征苏、沪之师，载福、玉麟有肃清下游之师；大江以北，多隆阿有取庐州之师，续宜有援颍州之师；大江以南，鲍超有攻宁国之师，运兰有防剿徽州之师，宗棠有规复全浙之师：十道并出，皆受成於国藩。