以孟昶为长史，总摄后事；檀凭之为司马。百姓愿从者千余人。三月戊午朔，遇吴甫之于江乘。甫之，玄骁将也，其兵甚锐。高祖躬执长刀，大呼以冲之，众皆披靡，即斩甫之。进至罗落桥，皇甫敷率数千人逆战。宁远将军檀凭之与高祖各御一队，凭之战败见杀，其众退散。高祖进战弥厉，前后奋击，应时摧破，即斩敷首。初，高祖与何无忌等共建大谋，有善相者相高祖及无忌等并当大贵，其应甚近，惟云凭之无相。高祖与无忌密相谓曰："吾等既为同舟，理无偏异。吾徒咸皆富贵，则檀不应独殊。"深不解相者之言。至是而凭之战死，高祖知其事必捷。
玄闻敷等并没，愈惧，使桓谦屯东陵口，卞范之屯覆舟山西，众合二万。己未旦，义军食毕，弃其余粮，进至覆舟山东，使丐士张旗帜于山上，以为疑兵；玄又遣武骑将军庾祎之，配以精卒利器，助谦等。高祖躬先士卒以奔之，将士皆殊死战，无不一当百，呼声动天地。时东北风急，因命纵火，烟焰张天，鼓噪之音震京邑。谦等诸军，一时土崩。玄始虽遣军置阵，而走意已决，别使领军将军殷仲文具舟于石头，仍将子侄浮江南走。庚申，高祖镇石头城，立留台，总百官，焚桓温神主于宣阳门外，造晋新主，立于太庙。遣诸将帅追玄，尚书王嘏率百官奉迎乘舆。司徒王谧与众议推高祖领扬州，固辞。乃以谧为录尚书事，领扬州刺史。于是推高祖为使持节、都督扬徐兖豫青冀幽并八州诸军事、领军将军、徐州刺史。
先是，朝廷承晋氏乱政，百司纵弛，桓玄虽欲厘整，而众莫从之。高祖以身范物，先以威禁内外，百官皆肃然奉职。二三日间，风俗顿改。且桓玄虽以雄豪见推，而一朝便有极位，晋氏四方牧守及在朝大臣，尽心伏事，臣主之分定矣。高祖位微于朝，众无一旅，奋臂草莱之中，倡大义以复皇祚。由是王谧等诸人时众民望，莫不愧而惮焉。
诸葛长民失期不得发，刁逵执送之，未至而玄败。玄经寻阳，江州刺史郭昶之备乘舆法物资之。玄收略得二千余人，挟天子走江陵。冠军将军刘毅、辅国将军何无忌、振武将军刘道规率诸军追讨。尚书左仆射王愉、愉子荆州刺史绥等，江左冠族。绥少有重名，以高祖起自布衣，甚相凌忽。绥，桓氏甥，亦有自疑之志。高祖悉诛之。四月，奉武陵王遵为大将军，承制，大赦天下，唯桓玄一祖后不在赦例。
初，高祖家贫，尝负刁逵社钱三万，经时无以还。逵执录甚严，王谧造逵见之，密以钱代还，由是得释。高祖名微位薄，盛流皆不与相知，唯谧交焉。桓玄将篡，谧手解安帝玺绂，为玄佐命功臣。及义旗建，众并谓谧宜诛，唯高祖保持之。刘毅尝因朝会，问谧玺绂所在，谧益惧。及王愉父子诛，谧从弟谌谓谧曰："王驹无罪，而义旗诛之，此是剪除胜己，以绝民望。兄既桓氏党附，名位如此，欲求免得乎？"驹，愉小字也。谧惧，奔于曲阿。高祖笺白大将军，深相保谧，迎还复位。光禄勋丁承之、左卫将军褚粲、游击将军司马秀役使官人，为御史中丞王祯之所纠察，谢笺言辞怨忿。承之造司宜藏。高祖与大将军笺，白"粲等备位大臣，所怀必尽，执宪不允，自应据理陈诉，而横兴怨忿，归咎有司，宜加裁当，以清风轨"。并免官。
桓玄儿子韶，聚众向历阳，高祖命辅国将军诸葛长民击走之。无忌、道规破玄大将郭钤等于桑落洲，众军进据寻阳。加高祖督江州诸军事。玄既还荆郢，大聚兵众，召水军造楼船、器械，率众二万，挟天子发江陵，浮江东下，与冠军将军刘殷等相遇于峥嵘洲，众军下击，大破之。玄弃众，复挟天子还复江陵。玄党殷仲文奉晋二皇后还京师。玄至江陵，因西走。南郡太守王腾之、荆州别驾王康产奉天子入南郡府。初，征虏将军、益州刺史毛璩，遣从孙祐之与参军费恬送弟丧下，有众二百。璩弟子修之时为玄屯骑校尉，诱玄以入蜀。至枚回洲，恬与祐之迎射之。益州督护冯迁斩玄首，传京师，又斩玄子升于江陵市。
初，玄败于峥嵘洲，义军以为大事已定，追蹑不速。玄死几一旬，众军犹不至。玄从子振逃于华容之涌中，招聚逆党数千人，晨袭江陵城，居民竞出赴之。腾之、康产皆被杀。桓谦先匿于沮川，亦聚众以应。振为玄举哀，立丧廷。谦率众官奉玺绶于安帝。无忌、道规既至江陵，与桓振战于灵溪。玄党冯该又设伏于杨林，义军奔败，退还寻阳。兖州刺史辛禺怀贰。会北青州刺史刘该反，禺求征该，次淮阴，又反。禺长史羊穆之斩禺，传首京师。十月，高祖领青州刺史。甲仗百人入殿。