高宗问浚大计，浚请身任陕、蜀之事，置幕府于秦川，别遣大臣与韩世忠镇淮东，令吕颐浩扈跸来武昌，复以张俊、刘光世与秦川相首尾。议既定，浚行，未及武昌，而颐浩变初议。浚既抵兴元，金人已取鄜延，骁将娄宿孛堇引大兵渡渭，攻永兴，诸将莫肯相援。浚至，即出行关陕，访问风俗，罢斥奸赃，以搜揽豪杰为先务，诸将惕息听命。
会谍报金人将攻东南，浚命诸将整军向敌。已而金人大攻江、淮，浚即治军入卫。至房州，知金人北归，复还关陕。时金帅兀术犹在淮西，浚惧其复扰东南，谋牵制之，遂决策治兵，合五路之师以复永兴。金人大恐，急调兀术等由京西入援，大战于富平。泾原帅刘锜身率将士薄敌陈，杀获颇众。会环庆帅赵哲擅离所部，哲军将校望见尘起，惊遁，诸军皆溃。浚斩哲以徇，退保兴州。命吴玠聚兵扼险于凤翔之和尚原、大散关，以断敌来路，关师古等聚熙河兵于岷州大潭，孙渥、贾世方等聚泾原、凤翔兵于阶、成、凤三州，以固蜀口。浚上书待罪，帝手诏慰勉。
绍兴元年，金将乌鲁攻和尚原，吴玠乘险击之，金人大败走。兀术复合兵至，玠及其弟璘复邀击，大破之，兀术仅以身免，亟剃其须髯遁归。始，粘罕病笃，语诸将曰："自吾入中国，未尝有敢撄吾锋者，独张枢密与我抗。我在，犹不能取蜀；我死，尔曹宜绝意，但务自保而已。"兀术怒曰："是谓我不能邪！"粘罕死，竟入攻，果败。拜浚检校少保、定国军节度使。
浚在关陕三年，训新集之兵，当方张之敌，以刘子羽为上宾，任赵开为都转运使，擢吴玠为大将守凤翔。子羽慷慨有才略，开善理财，而玠每战辄胜。西北遗民，归附日众。故关陕虽失，而全蜀按堵，且以形势牵制东南，江、淮亦赖以安。
将军曲端者，建炎中，尝迫逐帅臣王庶而夺其印。吴玠败于彭原，诉端不整师。富平之役，端议不合，其腹心张忠彦等降敌。浚初超用端，中坐废，犹欲再用之，后卒下端狱论死。会有言浚杀赵哲、曲端无辜，而任子羽、开、玠非是，朝廷疑之。三年，遣王似副浚。会金将撒离曷及刘豫叛党聚兵入攻，破金州。子羽为兴元帅，约吴玠同守三泉。金人至金牛，宋师掩击之，斩馘及堕溪谷死者，以数千计。浚闻王似来，求解兵柄，且奏似不可任。宰相吕颐浩不悦，而朱胜非以宿憾日毁短浚，诏浚赴行在。
四年初，辛炳知潭州，浚在陕，以檄发兵，炳不遣，浚奏劾之。至是，炳为御史中丞，率同列劾浚，以本官提举洞霄宫，居福州。浚既去国，虑金人释川、陕之兵，必将并力窥东南，而朝廷已议讲解，乃上疏极言其状。未几，刘豫之子麟果引金人入攻。高宗思浚前言，策免朱胜非；而参知政事赵鼎请幸平江，乃召浚以资政殿学士提举万寿观兼侍读。入见，高宗手诏辨浚前诬，除知枢密院事。
浚既受命，即日赴江上视师。时兀术拥兵十万于扬州，约日渡江决战。浚长驱临江，召韩世忠、张俊、刘光世议事。将士见浚，勇气十倍。浚既部分诸将，身留镇江节度之。世忠遣麾下王愈诣兀术约战，且言张枢密已在镇江。兀术曰："张枢密贬岭南，何得乃在此？"愈出浚所下文书示之。兀术色变，夕遁。
五年，除尚书右仆射、同中书门下平章事兼知枢密院事，都督诸路军马，赵鼎除左仆射。浚与鼎同志辅治，务在塞幸门，抑近习。时巨寇杨么据洞庭，屡攻不克，浚以建康东南都会，而洞庭据上流，恐滋蔓为害，请因盛夏乘其怠讨之，具奏请行。至醴陵，释邑囚数百，皆杨么谍者，给以文书，俾招谕诸砦，囚欢呼而往。至潭，贼众二十余万相继来降，湖寇尽平。上赐浚书，谓："上流既定，则川陕、荆襄形势接连，事力增倍，天其以中兴之功付卿乎。"浚遂奏遣岳飞屯荆、襄以图中原，乃自鄂、岳转淮东，大会诸将，议防秋之宜。高宗遣使赐诏趣归，劳问之曰："卿暑行甚劳，湖湘群寇既就招抚，成朕不杀之仁，卿之功也。"召对便殿，进《中兴备览》四十一篇，高宗嘉叹，置之坐隅。
浚以敌势未衰，而叛臣刘豫复据中原，六年，会诸将议事江上，榜豫僣逆之罪。命韩世忠据承、楚以图淮阳；命刘光世屯合肥以招北军；命张俊练兵建康，进屯盱眙；命杨沂中领精兵为后翼以佐俊；命岳飞进屯襄阳以窥中原。浚渡江，遍抚淮上诸戍。时张俊军进屯盱眙，岳飞遣兵入至蔡州，浚入觐，力请幸建康。车驾进发，浚先往江上，谍报刘豫与侄猊挟金人入攻，浚奏："金人不敢悉众而来，此必豫兵也。"边遽不一，俊、光世皆张大敌势，浚谓："贼豫以逆犯顺，不剿除何以为国？今日之事，有进无退。"且命杨沂中往屯濠州。刘麟逼合肥，张俊请益兵，刘光世欲退师，赵鼎及签书折彦质欲召岳飞兵东下。御书付浚，令俊、光世、沂中等还保江。浚奏："俊等渡江，则无淮南，而长江之险与敌共矣。且岳飞一动，襄、汉有警，复何所恃乎？"诏书从之。沂中兵抵濠州，光世舍庐州而南，淮西汹动。浚闻，疾驰至采石，令其众曰："有一人渡江者斩！"光世复驻军，与沂中接。刘猊攻沂中，沂中大破之，猊、麟皆拔栅遁。高宗手书嘉奖，召浚还，劳之。