当时桓玄的水军占优势，但是他的臭毛病真的不少，经常好坐着小船在大船旁边泛舟，好像是败走时样子。这样引起了官兵的误解，以为这是桓玄打不过人家，要逃跑了，士兵皆无斗志。占优势的水军，竟然在弱势水军的攻击下溃败，官兵焚烧辎重，纷纷逃离战场。
桓玄没有别的办法，只有继续西逃，于五月二十三日逃回老巢江陵（今湖北荆州市），此时兵无斗志，将无战心，桓玄的命令都没有人执行了。第二天，江陵城中大乱，桓玄随心腹数百人继续出逃。到城门口时，随行人员竟有人欲行刺桓玄。
也有保桓玄的，也有杀桓玄的，乱成一团，互相厮杀。桓玄勉强登船进入长江，身边人员因乱分散，只有卞范之跟随在身边。桓玄打算逃到梁州的治所汉中，但屯骑校尉毛修之诱使桓玄到四川，此时桓玄的脑子已乱，只好听从。
桓玄领着残兵败将于五月二十六日，刚到江陵城西的枚回洲一带，正好遇到益州刺史的人。他们已和建康通气，早就向着过去的皇帝晋安帝，几百人向桓玄的人展开进攻，当时箭如雨下，桓玄的亲信皆为桓玄挡箭而死，周围的人根本不敌，只能纷纷后退。
益州督护冯迁冲在最前面，一下子跳上了桓玄的坐船，连杀数人，一直冲到桓玄的面前。桓玄拔下头上的玉饰递给冯迁，大吼道：“你是什么人，难道不知道我是天子吗？竟敢杀天子！”
冯迁冷笑着回道：“我只是杀天子的叛贼而已，你哪是什么天子？”于是桓玄竟然被冯迁杀死，取走首级。桓玄的头被带到建康，挂在朱雀门秦淮河的浮桥上，百姓见了都十分高兴，指指点点，成了取笑的谈资。
桓玄从当皇帝到兵败被杀，也就只有半年时间，上演了一出别人早已上演过多次的闹剧。他瞎作不要紧，却连累了整个宗族，只要是喘气的，几乎被拾掇干净。
刘裕在血腥的战争中能生存、壮大，并把桓玄的势力消灭掉，就说明他有非同一般的见识与实力。当初刘裕在刘牢之的麾下任将，几乎是百战百胜，在战争的磨练中，渐渐总结出一套成熟实用的战争经验，在平叛孙恩的战争中，立下了卓越战功。
桓玄的妻子是个能人，有相当强的预判能力，她多次对丈夫说：“刘裕行动举止有龙态虎志，看问题不同凡响。宜早早地除之。”
桓玄却不是这样认为：“你这纯属妇人之见，目前正是用人之际，我欲稳定东晋，荡平中原，非此人不行，怎能杀他？等关陇平定，再作计议。”
桓玄称帝后，认为大权在握，用不着北府兵了。为了消除隐患，欲瓦解北府兵，大力剿杀北府兵的将领，北府兵的首领刘牢之被逼逃走自缢。其余将领司马休之、高雅之和刘牢之的儿子刘敬宣，没有别的办法，只能北逃到南燕。
正在恒玄盘算着继续杀害其余将领的时候，刘裕也在暗中和北府兵残余兵将联络，准备伺机反扑。
元兴三年（404年）二月，刘裕以打猎为名，聚拢起北府兵残余兵将一千七百余人，在京口举兵起义，歼灭了桓楚在此的兵力。接着，众人推刘裕为盟主，传檄四方，各地纷纷响应。
桓玄自从知道刘裕率众起义后，成天忧心忡忡，想不出对策。部下劝说：“刘裕力量弱小，哪里能成大气候，陛下何必担忧呢？”
桓玄却摇了摇头说：“刘裕堪称当代雄才，刘毅家没有多少积蓄，却像掷骰子一样，一下子捐出百万。何无忌是刘牢之的外甥，和他舅舅一样，也是员干将。他们这些人联合起来，共举大事，怎么能说不会成功呢？”
在桓玄势力一蹶不振的时候，刘裕的力量却迅速雄起。在桓玄西逃，皇帝不在，刘裕进入建康的情况下，他获得当时中书令，王导之孙王谧的支持，出任使持节，都督扬州、徐州、兖州、豫州、青州、冀州、幽州、并州八州诸军事，徐州刺史。不久，又奉武陵王司马遵推荐承制总百官行事。
东晋的这个时候是政治混乱、百官放纵，百业废驰，桓玄在位的时候，虽然想整治，但众人都不听他的，积弊难改。刘裕身居要职以后，以身示范，以威严约束宫廷内外，百官皆认真供职，在短期的时间内，竟然官气大变，这也算一大奇迹。
正是刘裕在极短的时间内，稳定了东晋朝廷，才能派遣诸将追击桓玄，并迎晋安帝返回建康复位。按说这时候，他的功劳已经很大了，做个一人之下万人之上的丞相也未尝不可，但是他却戴着这么多的官帽子还镇丹徒，把江山社稷又还给了晋安帝司马德宗。
这一招，让刘裕的政治声望继续大涨。
刘裕又做着让其余国人瞠目结舌的大事，义熙元年（405年），刘裕遣使到后秦，要求后秦归还之前占领的南乡、顺阳、新野、舞阴等淮北诸郡。这时后秦当家的皇帝正是姚兴，他考虑到西面战事吃紧，兵力紧张，不想东面再与刘裕为敌，于是答应将淮北的南乡、顺阳、新野、舞阴等十二郡全部归还给东晋。
东晋不费一兵一卒，而收复了过去失去的十二郡，刘裕的功劳实在是大焉。不用说，政治声望持续大涨。
义熙二年（406年），刘裕因功受封为豫章郡公，食邑万户，获赏绢三万匹。义熙四年（407年）正月，王谧去世后，刘裕获授侍中、车骑将军、开府仪同三司、扬州刺史、录尚书事、徐充二州刺史，入掌朝政大权。
义熙五年（409年），南燕王慕容超继位，纵兵侵略准北，俘虏阳平太守刘千载、济南太守赵元，掳掠百姓千余家，北方侵略南方的大战又开始了。但是这时候的东晋，政治安定，经济发展，军力也得到了一定的恢复，怎么能容得外族人的入侵。
