然后，他率军还江州。到了老窝后，他马上遣使送信给张士诚，约定共灭朱元璋。张士诚只想自固，没有应承。在江州修整了数日，陈友谅引大军东下，直扑建康。金陵城中，人心大骇，朱元璋手下人不少心意摇动，有欲降的，有欲逃的，有欲据钟山死守的，人心惶惶。朱元璋问计于刘基。刘基心沉气稳，说：“天道后举者胜。我军以逸待劳，何患不克！明公您宜开府库，固士心，倾至诚，伏兵伺陈击敌。取威制胜，以成王业，在此一举。”朱元璋听了之后心意立决。其实在那个时候，朱元璋文臣武将中多有出迎自保之心，估计连朱元璋本人也多夜睡不着觉，细想过是否当个“汉臣”。正是刘基一席话，终使朱元璋心稳神固。
这时，有人提议朱元璋先收复太平以牵制敌方，有人建议朱元璋自己亲自指挥出建康御敌，均为朱元璋所拒。这位爷没读过什么兵书，属于那种天生有感觉的军事家，他说：“太平城濠堑深固，如果当时陈友谅没有巨舰，不能水上进攻，太平根本不会陷落。倘使我们现在去围城，不可能短时间拿下。而且，贼军水军十倍于我军，屯兵于坚城之下，进不能取，退不及援，肯定吃亏。如果我自己出城逆敌，敌军以偏师牵制我，牵着我们主力四处兜圈，陈友谅会以舟师顺流而下直奔建康，半日即可抵城下。到时，即使我们的步兵骑兵能够即时回援，也是百里趋战，精疲力竭，乃兵法大忌呵。”朱元璋先派出胡大海直捣广信（今江西上饶）以制其后，然后招指挥康茂才议事。老康乃是先前降而复叛的陈野先属下将领，闻召立至。朱元璋开门见山：“听说你一直和陈友谅关系不错，今其入寇，我很想让他来快些。你假装充当他的内应，派人捎信给他约他速来，最好让他兵分三道来击，以弱其势。”康茂才听了之后仍旧有些摸不着头脑，有些迟疑的说道：“我家中有个门子，从前一直在陈友谅家中做事，让他送信，对方必无疑心不过，我们如今多数人都害怕汉军到来，为何要引诱对方来找我们打？”
朱元璋一笑：“情况再发展下去，陈友谅必和张士诚联手，二寇谋合，何以对付！今先破陈贼，则张士诚闻之胆落！”老康听了之后这才恍然，依计行事。康茂才的门子化装进入陈友谅军，老陈得书大喜，问：“康公今何在？”门子答：“正提军守护江东桥。”问：“桥是何质地？”答：“木桥。”陈友谅听了之后不禁喜形于色，“你回去告诉康公，我很快就去那里，到达后则高呼‘老康’，让他闻呼而出。”门子回来后，康茂才马上报知朱元璋。老朱大喜：“贼人入套了！”忙命李善长派人把江东桥木板拆掉，改成铁石桥，一夜之间，桥成。
同时，听说陈友谅一军打探过新河口方面的道路，老朱派大将赵德胜在新河两岸筑虎口新城。于是，朱元璋动员所有人马，命常遇春、冯胜等人率精军三万埋伏于石灰山侧，徐达等陈兵于建康南门外，杨璟驻兵大胜港，张德胜等人率水军出龙江关外，老朱本人亲统大军在卢龙山待敌。他命令持旗信号兵分持红黄旗埋伏于卢龙山左右，“寇至，则举红旗；黄旗举，则伏兵皆发。”陈友谅自恃有康茂才做内应，人马船只又多，果然引水军浩浩荡荡杀来，直进大胜港。港湾窄狭，又有朱元璋大将杨璟严阵以待，每拨只能有三船并进，急得陈友谅跳脚，也不想分兵了，他马上从大胜港掉头，出长江之上，径直扬帆趋江东桥。
结果，船队大集出发，巨船大舟，本想一下子撞毁木桥直行，近前却发现桥身是大石砌成，绕以铁环，灌以铁汁。陈友谅大惊，忙急呼“老康”，希望“内线”康茂才出来接应。喊了半天，根本没人应声，陈友谅忽悟自己中计。
迂回半日，费了牛鼻子的劲，陈友谅只能下令舰队再次掉头，直趋龙江。汉军势锐。他们绕了半天道，却都是呆在船上，体力并未消耗。靠岸后，一万多精兵飞身下船，在滩头立栅，准备结阵进攻。身在卢龙山的朱元璋看得仔细，下令击鼓举旗。红旗扬起，诸军争相趋前拔栅，与陈友谅汉军厮杀在一起，你死我活。正相持间，又一轮鼓声响起，山前黄旗又起，常遇春伏兵忽现，徐达率部杀至，张德胜的水师也一时云集。内外合击之下，陈友谅登岸的兵士根本招架不住，争相往岸边的船上跑。恰值退潮，无数巨舰搁浅，汉兵被杀掉、溺毙无数，仅被俘虏的就有近万人，又有巨舰百余艘、战船数百皆为朱元璋所得。坐在指挥大舟上的陈友谅见势不妙，忙乘小船逃走。朱元璋没有鸣金，下令诸将急追。追至采石，陈友谅纠结溃亡之众，复与朱元璋军大战，复被廖永忠、华云龙等人打得大败。朱元璋军队乘胜之下，吓得陈友谅太平守军也无斗志，慌忙遁去。朱元璋收复了太平城。汲取上次太平城西南临姑溪水道的经验教训，常遇春派人改筑城墙，往后移二十余步重筑，以免敌方巨舰可以直泊城头。胡大海方面进展也不错，攻取信州。
朱元璋此时乘胜追击，一路取了安庆、信州、袁州，收复了太平。张士诚见陈友谅已经兵败，便收兵不动。这一次大战，削弱了陈友谅的实力，增强了朱军的士气，此时起，朱元璋的陈友谅的实力已经是旗鼓相当了。在公元1361年正月，小明王封朱元璋为吴国公。朱元璋击败陈友谅之后，小明王的内部出现了纷争，大将与毛贲与赵均用因为立场不同，互相仇杀起来。元将察罕帖木儿趁着这个机会收复了关陇，进占山东。
朱元璋率军赴援安丰的时候，陈友谅乘着朱元璋后方空虚。遂提兵六十万，巨舰百艘，空国而来。先占了吉安、临江、无为州，又层层围困洪都。江都守将为朱元璋的侄子朱文正，朱文正坚守江都八十五天，直到朱元璋回师来救，汉军才撤围洪都。就在这一年朱元璋觉得火候差不多，决定亲征陈友谅。他亲乘巨舰，自率水师进攻安庆。安庆城坚，数攻不下。刘基向朱元璋进言：“主公，眼下，我军最好要舍安庆！”朱元璋听了之后沉默不语，良久之后说道：“但不知先生有何高论？”刘基说道：“不如我军直接攻击陈友谅的老窝江州，不知主公意下如何？”朱元璋听了之后大喜说道：“嗯，知我者刘先生也，就这么办了！”朱元璋立刻率兵西上。经小孤山时，陈友谅大将傅友德、丁普郎主动率部投降。朱元璋早闻傅友德的勇名，大喜过望，立刻把他擢为大将，派他去江西招谕诸郡归附。由于朱元璋行动迅速，陈友谅根本不知道对方径来江州施行攻击。忽然之间，陈友谅发现朱元璋大型水师舰队在江州城外江面上密麻麻一大片，真如神兵天降。陈友谅仓猝间不能成军，只得携妻子率亲随逃奔武昌。苦心经营几年的老根据地，一朝为朱元璋所据。
大军乘胜，又攻克蕲州、黄州、兴国、黄梅、广济等地。不仅如此，形势逼人之下，为陈友谅守南昌的胡廷瑞见风使舵，派人向朱元璋约降。不废吹灰之力，南昌又入了朱元璋的版图。虽然后来小有反复，南昌仍为朱元璋牢牢掌握。此时此刻，陈友谅与朱元璋掉了位置。朱元璋一方咄咄逼人，陈友谅频频招架，疆域日蹙。愤恨之下，陈友谅大整水军，命人制作上千艘巨舰，皆高数丈，丹漆涂饰，上下三屋，每层可以驰马，又置马栅于其间。楼船下方设板房为蔽，置舻数十其中，上下人语不相闻，可称是古代版航空母舰。更惊人的是，陈友谅巨船皆以铁皮包裹，极其坚实。他纠结六十万兵，尽载其家属官员，空国而来，直冲南昌，准备先拿下这一重城。可见，陈友谅毕竟一鲁莽汉，净爱干孤注一掷的事情。鄱阳湖大战，即将开始。陈友谅轻躁，大军甫出，却径自去南昌，想攻陷此城。当时的南昌守将，乃朱元璋亲侄朱文正和心腹大将邓愈。朱文正派出各将校分守南昌各门后，自提两千精兵，往来指挥、策应。
陈友谅相中了看似容易进攻的抚州门，亲自指挥兵士进攻，并立于船上督战。守抚州门的正是猛将邓愈。汉兵准备很充分，各人手举箕状竹盾牌，矢石不能伤，加上威胁巨大的撞墙机，一下子撞毁城墙二十余丈，汉兵呐喊涌上。关键时刻，邓愈守军一排人从墙后忽然站起，个个手持火铳，枪声响处，冲在前排的汉兵全被打倒。如果是箭弩，威力即使比火铳大，也吓不住汉兵。眼见敌人手持喷火冒烟的怪家伙，声音震耳欲聋，汉兵很少有人见过这东西，登时胆落，屁滚尿流而去。其实，火器早在南宋对完颜之水军作战时就第一次使用。宋元更迭之际，忽必烈把这些东西发扬光大。火铳之物，发明制作于元朝中后期，战争中使用得并不多。江南多巧匠，朱元璋属下大将邓愈脑子活，先人一步，把这些“玩物”用在战争之中，效果惊人。倘无此物，南昌城当时就会陷落。一顿狂轰后，陈友谅督战队斩杀汉兵数人，剩下的活人咬咬牙，又重新冲向城边。守城兵士在城门处和城墙倒塌处一直争竖木栅，汉兵争先恐后攻击，朱文正督诸将死战，且战且筑，连夜把被撞毁的城墙又重新修整完毕。
酷战之中，南昌城内李继先、牛海龙等数名将领皆战死。
见抚州门难以遽破，陈友谅又督军转攻新城门。守城猛将薛显更出人意料，率领锐卒突然先发制人，守城部队大开城门，首先向汉军发动进攻。陈友谅猝不及防，手下平章刘震昭被斩杀，死伤数千人，乃退。情急之下，陈友谅增修攻具，想破栅后从南昌水关攻入城内。他下达死命令，退后者皆斩，于是汉兵冒死撞冲。朱文正派兵士手持长槊，隔栅刺杀汉兵。汉兵此次有准备，几个人抱住长槊尖头，死命往回拉，夺槊后，汉兵又发动新一轮猛攻，使得近战中南昌守兵被杀不少。幸亏朱文正的临时兵工厂就设在栅后，他命令士兵把长槊槊尖放入锻铁的火岸中烧红，再伸出栅外刺敌。汉兵夺槊，一时间皮焦肉烂，哀嚎遍地，努力了很久终不得进。陈友谅用尽攻击之术，但城中备御万方，汉军被杀伤严重。
见南昌攻不下，陈友谅分兵陷吉安、临江，把俘虏的几个守将殉于南昌城下，朱文正等人丝毫不为所动。陈友谅恼急，又挥兵猛攻官步、士步二门，朱元璋手下勇将赵德胜中伏弩身亡。南昌被围攻，内外隔绝，音信不通，朱文正在派遣千户张子明赴建康告急的同时，又派出一名外号“舍命王”的士兵出城诈降，诉称稍缓几日，城内主帅要降。陈友谅无谋，信以为真，马上缓其攻势。可是一直等到了约定“投降”日，陈友谅满心等待着南昌城里的人投降，可是他却听手下人报告南昌城上旗帜一新，杀声动天。陈友谅恨极，命人把诈降的“舍命王”捆在城前碎剐，本来这位爷出来就没想活着回去，不然就不叫“舍命王”了。当时的朱元璋，正亲自率兵去解救安丰被张士诚攻击的小明王和刘福通。张士诚并非有意和陈友谅相互响应牵诱朱元璋，纯粹的临时性军事行动而已。激战中，刘福通战死，朱元璋赶到，打败了张士诚大将吕珍，“救”了小明王。至此，“皇帝”韩林儿变成老朱手中之物。
