二十九年，领偏军征仇池。梁州西界旧有武兴戍，晋隆安中没属氐；武兴西北有兰皋戍，去仇池二百里。太祖击二垒，皆破之。遂从谷口入关，未至长安八十里，梁州刺史刘秀之遣司马马注助太祖攻谈堤城，拔之，虏伪河间公奔走。虏救兵至，太祖军力疲少，又闻文帝崩，乃烧城还南郑。袭爵晋兴县五等男。孝建初，除江夏王大司马参军，随府转太宰，迁员外郎、直阁中书舍人、西阳王抚军参军、建康令。新安王子鸾有盛宠，简选僚佐，为北中郎中兵参军。陈太后忧，起为武烈将军，复为建康令，中兵如故。景和世，除后军将军。值明帝立，为右军将军。
时四方反叛，会稽太守寻阳王子房及东诸郡皆起兵。明帝加太祖辅国将军，率众东讨。至晋陵，与贼前锋将程捍、孙昙瓘等战，一日破贼十二垒。分军定诸县，晋陵太守袁摽弃城走，东境诸城相继奔散。
徐州刺史薛安都反彭城，从子索儿寇淮阴，山阳太守程天祚举城叛，徐州刺史申令孙又降，徵太祖讨之。时太祖平东贼还，又将南讨，出次新亭，前军已发，而索儿自睢陵渡淮，马步万余人，击杀台军主孙耿，纵兵逼前军张永营，告急。明帝闻贼渡，遽追太祖往救之，屯破釜。索儿向钟离，永遣宁朔将军王宽据盱眙，遏其归路。索儿击破台军主高道庆，走之于石鳖，将西归。王宽与军主任农夫先据白鹄涧，张永遣太祖驰督宽，索儿东要击太祖，使不得前。太祖鼓行结阵，直入宽垒，索儿望见不敢发。经数日，索儿引军顿石梁，太祖追之至葛冢，候骑还云贼至，太祖乃顿军引管，分两马军夹营外以待之。俄顷，贼马步奄至，又推火车数道攻战。相持移日，乃出轻兵攻贼西，使马军合击其后，贼众大败，追奔获其器仗。进屯石梁涧北。索儿夜遣千人来斫营，营中惊，太祖卧不起，宣令左右案部不得动，须臾贼散。太祖议欲于石梁西南高地筑垒通南道，断贼走路，索儿果来争之。太祖率军击破之，贼马自相践藉死。索儿走向钟离，太祖追至黯黮而还。除骁骑将军，封西阳县侯，邑六百户。迁巴陵王卫军司马，随镇会稽。
江州刺史晋安王子勋遣临川内史张淹自鄱阳峤道入三吴，台军主沈思仁与伪龙骧将军任皇、镇西参军刘越绪各据险相守。明帝遣太祖领三千人讨之。时朝廷器甲皆充南讨，太祖军容寡阙，乃编棕皮为马具装，析竹为寄生，夜举火进军。贼望见恐惧，未战而走。还除桂阳王征北司马、南东海太守、行南徐州事。
初，明帝遣张永、沈攸之以众喻降薛安都，谓太祖曰："吾今因此北讨，卿意以为何如？"太祖对曰："安都才识不足，狡猾有余。若长辔缓御，则必遣子入朝；今以兵逼之，彼将惧而为计，恐非国之利也。"帝曰："众军猛锐，何往不克！卿每杖策，幸勿多言。"安都见兵至，果引索虏，永等败于彭城。淮南孤弱，以太祖为假冠军将军、持节、都督北讨前锋诸军事，镇淮阴。
泰始三年，沈攸之、吴喜北败于睢口。诸城戍大小悉奔归，虏遂进至淮北，围角城，戍主贾法度力弱不敌。诸将劝太祖渡岸救之，太祖不许；遣军主高道庆将数百张弩浮舰淮中，遥射城外虏；弩一发数百箭俱去，虏骑相引避之，乃命进战，城围即解。迁督南兖徐二州诸军事、南兖州刺史，持节、假冠军、督北讨如故。五年，进督兖、青、冀三州。六年，除黄门侍郎，领越骑校尉，不拜。复授冠军将军。留本任。
明帝常嫌太祖非人臣相，而民间流言，云"萧道成当为天子"，明帝愈以为疑。遣冠军将军吴喜以三千人北使，令喜留军破釜，自持银壶酒封赐太祖。太祖戎衣出门迎，即酌饮之。喜还，帝意乃悦。七年，徵还京师；部下劝勿就徵，太祖曰："诸卿暗于见事。主上自诛诸弟，为太子稚弱，作万岁后计，何关佗族。惟应速发，事缓必见疑。今骨肉相害，自非灵长之运，祸难将兴，方与卿等戮力耳。"拜散骑常侍、太子左卫率。时世祖以功当别封赣县，太祖以一门二封，固辞不受，诏许之。加邑二百户。明帝崩，遗诏为右卫将军，领卫尉，加兵五百人。与尚书令袁粲、护军褚渊、领军刘勔共掌机事。又别领东北选事。寻解卫尉，加侍中，领石头戍军事。
明帝诛戮蕃戚，江州刺史桂阳王休范以人凡获全。及苍梧王立，更有窥窬之望，密与左右阉人于后堂习驰马，招聚士众。元徽二年五月，举兵于寻阳，收略官民，数日得士众二万人，骑五百匹。发盆口，悉乘商旅船舰。大雷戍主杜道欣、鹊头戍主刘諐期告变，朝廷惶骇。太祖与护军褚渊、征北张永、领军刘勔、仆射刘秉、游击将军戴明宝、骁骑将军阮佃夫、右军将军王道隆、中书舍人孙千龄、员外郎杨运长集中书省计议，莫有言者。太祖曰："昔上流谋逆，皆因淹缓，至于覆败。休范必远惩前失，轻兵急下，乘我无备。今应变之术，不宜念远，若偏师失律，则大沮众心。宜顿新亭、白下，坚守宫掖、东府、石头以待。贼千里孤军，后无委积，求战不得，自然瓦解。我请顿新亭以当其锋；征北可以见甲守白下；中堂旧是置兵地，领军宜屯宣阳门为诸军节度；诸贵安坐殿中，右军诸人不须竞出。我自前驱，破贼必矣。"因索笔下议，并注同。