平定东南元顺帝至正十六年春三月，太祖既定金陵，欲发兵取镇江，虑诸将不戢士卒，为民患，遂召诸将，数以常纵军士之过，欲置之法，李善长救，乃免。于是命徐达为大将，率诸将浮江东下，戒之曰：
“吾自起兵，未尝妄杀。今尔等当体吾心，戒戢士卒，城下之日，毋焚掠杀戮。有犯令者，处以军法，纵者罚毋赦。”达等顿首受命。丙申，进兵攻镇江，丁酉，克之。苗军元帅完者图出走，守将段武、平章定定战死。达等自仁和门入，号令严肃，城中晏然。遂分兵下金坛、丹阳诸县，克之。改镇江为江淮府，命徐达、汤和为统军元帅镇守。已而，复以江淮府为镇江府。
六月乙卯，命邓愈、邵成、华高、华云龙将兵进攻广德路，克之，改为广兴府，以邓愈镇守。秋七月己卯，置江南等处行中书省，诸将奉太祖为吴国公，行
丞相、总省事。以李善长、宋思贤为参议，以李梦庚、陶安等为左右司郎中、员外郎、都事等官。置江南行枢密院，以徐达、汤和同佥枢密院事。置帐前亲军，以冯国用为总制都指挥使。复置左、右、前、后、中五翼元帅府及五部都先锋。置提刑按察司，以王习古、王德为佥事。
遣使聘镇江秦从龙。从龙字元之，洛阳人，仕元为校官，累迁置江南行台侍御史。会兵乱，从龙以老避居镇江。太祖兵东下，谓徐达曰：“镇江有秦元之者，才器老成，入城，当为吾访之。”徐达等至镇江，得从龙，还报，太祖喜，即命朱文正以白金文绮往聘之。既至，太祖亲至龙江迎之以入。太祖即元故御史台为府，居从龙西华门外，事无大小，皆与谋。从龙尽言无隐，每以笔书漆简，问答甚密，左右无知之者。太祖呼为先生而不名。
九月，太祖如镇江府，谒孔子庙，分遣儒士告谕乡邑，劝农桑。十二月，长钅仓贼谢元帅寇广德，邓愈击败之，俘其总管武世营及军士千余人。寻遣礻卑将费子贤攻武康、安吉，皆下之。
十七年夏四月，命徐达、常遇春帅师攻宁国，久不下。太祖乃亲往督师，长钅仓军来援，我师扼险，破走之。乃造飞车，编竹为重蔽，数道并进，守将杨仲英不能支，开门降。其百户张文贵杀妻子，自刎死。擒其将朱亮祖，得军士十余万，马二千匹。亮祖，六合人，初为元义兵元帅，太祖克太平，来降。寻叛去，数与我师战，我军为所获者六十余人，诸将无能当。至是，徐达等围亮祖于宁国，常遇春被钅仓而还。太祖督兵攻破之，缚亮祖以见，太祖曰：“今何如？”对曰：“是非得已。生则尽力，死则死耳。”太祖壮而释之，使从征宣城，亦下。
秋七月，命邓愈、胡大海将兵取徽州。先下绩溪、休宁，乘胜进攻徽州。元守将元帅八尔思不花及万户吴纳等拒战，我师击败之。庚辰，克徽州路，纳与阿鲁灰、李克膺等退守遂安县。大海引兵追及于白鹤岭，击败之，纳等自杀。改徽州路为兴安府，命邓愈守之。
九月，青军元帅张明鉴逐元镇南王孛罗普化，据扬州，日屠居民以为食。元帅缪大亨攻之，明鉴等不能支，乃出降，得其众数万，马二千匹。改扬州路为淮海府，以耿再成、张德林守之。按籍城中居民，仅得十八家。德林以旧城虚旷，截城西南隅，筑而守之。
元苗帅杨完者自杭州率众数万，来攻徽州。时徽州新附，守御之器未备，胡大海方将兵攻婺源，城中守兵甚少。苗军奄至，邓愈乃激厉将士，大开四门以待之。苗军疑不敢入。大海闻之，自婺源兼程而还，大呼杀入，复与邓愈奋兵夹战。十一月朔，大破苗军于城下，杀其镇抚李才，擒其部将吴辛、董旺、吕升等，完者遁去。愈遣礻卑将王弼、孙虎攻婺源，斩元将帖木儿不华。婺源元帅汪同降。
十八年春二月，以康茂才为营田使。茂才，蕲州人，初结义旅，为元捍寇江上，有功，累迁宣慰使、都元帅，戌裕溪、采石。及太祖兵渡江，茂才数战不胜，常遇春设伏歼其精锐殆尽。茂才复收溃散，竖寨于天宁州，太祖命诸军以襄阳炮破其寨。茂才奔金陵。金陵破，茂才复欲奔镇江，追及之。茂才度天命有归，乃率所部余兵三千人解甲来附，顿首言：“前日之战，各为其主。今屡败，天也。生死惟命。”太祖笑而释之，令统所部兵从征，屡有功。至是，太祖进谕之曰：“比因兵乱，堤防颓圯，民废耕耨，故设营田使以修筑堤防，专掌水利。今军务实殷，用度为急，理财之道，莫先于农事。故命尔此职，分巡各处，俾高无患干，卑不病潦，务在蓄泄得宜。大抵设官为民，非以病民。若但使有司增饣希馆舍，迎送奔走，所至纷扰，无益于民而反害之，则非付任之意。”
李文忠等进取青阳、石埭、太平、旌德诸县，皆下之。是月，文忠复进兵击败元院判阿鲁恢兵于万年街，遂破苗、獠于昌化，获其妇女辎重甚众。文忠恐士卒骄富，莫有斗志，因激怒，使尽杀所获，焚其辎重，曰：“此何足惜，能努力破敌，何患不富贵乎！”众咸奋励。
三月，文忠会邓愈、胡大海兵取建德路。太祖大喜，授文忠帐前总制亲兵都指挥使。大海等由徽州昱岭关进攻建德路，道出遂安，长钅仓元帅余子贞以兵来拒，击败之，追至淳安，敌望风溃。遂安守将洪元帅率众五千援淳安，复战败之，降其众千余。丙辰，克建德路，元守将不华等弃城遁走，父老何良辅等率众降，改建德路为严州府。
五月，苗帅杨完者率众屯徽之乌龙岭，文忠、愈合兵击却之。癸酉，下浦江县。文忠既下浦江，闻郑氏者，自宋聚族同居至元，旌为义门，禁军士母侵掠。是月，命提刑按察司佥事分巡郡县录囚。
十一月辛丑，立管领民兵万户府。谕行中书省臣曰：“古者寓兵于农，有事则战，无事则耕，暇则讲武。今兵争之际，当因时制宜。所定郡县，民间武勇之材，宜精加简拔，编缉为户，立民兵万户府领之。俾农时则井，闲则练习，有事则用之。事平，有功者一体升擢，无功者还为民。如此则民无坐食之弊，国无不练之兵。以战则胜，以守则固，庶几寓兵于农之意也。”
初，胡大海取兰溪分兵守要害，遂进攻婺州。已而婺州坚守不下，太祖命李善长、徐达守建康，甲子，自率常遇春等兵十万往征之，由宁国道徽州。召儒士唐仲实、姚连等咨时务，访治道，问民疾苦。闻前学士朱升名，召问之。对曰：“高筑墙，广积粮，缓称王。”太祖悦，命参帷幄。十二月，师至兰溪，先令和州人王宗显往婺州侦探。宗显少攻儒业，博涉经史，避乱，寓居严州，胡大海荐之。宗显至婺近城五里旧识吴世杰家，侦知城中守将各自为心，还报。太祖喜，曰：“我得婺州，命汝作知府。”元参知政事石抹宜孙守处州，闻大军攻婺州，急与参谋胡深、章溢议守备，造狮子战车数百辆，以其弟石抹宜孙守婺，继令深等将车师为援，自率众万余，出缙云以应之。深至松溪，观望不敢进。太祖谓诸将曰：“婺倚石抹宜孙，故未肯即下。闻彼以车战来援，此岂知变者。松溪山多路狭，车不可行，以精兵遏之，其势即破。援兵破，则城中不劳而下矣。”翼日，命胡德济诱其兵于梅花门外，纵击，大败之，深等遁去。深之来也，晨起，见西北有黑气，东南有白气，长亘天，顷之，白气为黑气所荡。深知其不吉，恐众心惊惧，谬曰：“今日有杀气，战必胜。”已而战败，城中势益孤，台宪将臣画疆分守，意复不相能，于是同佥宁安庆夜遣都事李相缒城请降，约开东门纳兵，太祖许之。甲申，兵既入，守将惶恐失措，遂擒帖木烈思、石抹厚孙等。下令禁侵暴。改婺州路为宁越府，分置中书省。召儒士许元、叶瓒玉、胡翰、汪仲山等十余人，皆会食省中。日令二人进讲经筵，敷陈治道。以王宗显知宁越府事。命宗显开郡学，延儒士叶仪、宋濂为五经师，戴良为学正，吴沈、徐原为训导。时丧乱之余，学校久废，至是始闻弦诵声，无不举手加额。
是月，发仓赈贫民。太祖既抚定宁越，欲遂取浙东未下诸郡，集诸将谕之曰：“克城虽以武，而定民必以仁。吾师比入建康，秋毫无犯，故一举而遂定。今新克婺州，政当抚恤，使民乐于归附，则彼未下郡县亦必闻风而归。吾每闻诸将下一城，得一郡，不妄杀人，喜不自胜。盖为将者能以不杀为心，非惟国家所利，即已亦蒙其福。尔等从吾言，则事不难就，大功可成矣。”
十九年春正月，乐平儒士许瑗谒见。瑗聪明过人，至正初，两举于乡，皆第一。会试不第，放浪吴、越间。每醉，辄大言自负。至是，谒上于宁越，曰：“方今元祚垂尽，四方鼎沸。夫有雄略者乃可驭雄才，有奇识者乃能知奇士。阁下欲扫除僭乱，平定天下，非收揽英雄，难与成功。”太祖曰：“今四方纷扰，民困涂炭，予用英雄，有如饥渴，方广揽群议，博收众策，共成康济之功。”瑗曰：“如此，天下不难定也。”太祖喜，即授博士，留帷幄。未几，以太平为股肱郡，命瑗为知府。
三月甲午，宥狱囚。五月辛酉，太祖将自宁越还建康，召胡大海谕之曰：“宁越为浙东重地，吾以尔才，故特命尔守。宋伯颜不花在衢，其人多智术。
石抹宜孙守处州，善用士。绍兴为张士诚将吕珍所据。数郡与宁越密迩，尔宜与同佥常遇春同心协力，俟间取之。此三人皆劲敌，不可忽也。”遂还。太祖既至建康，以无为州逼近肘腋，遣兵克之。
秋九月，常遇春进兵攻衢州，建奉天旗，树栅围其六门，造吕公交车、仙人桥、长木梯、懒龙爪，拥至城下，高与城齐，欲阶以登城。又于大西门城下，穴地道攻之。宋伯颜不花悉力捍御，以束苇灌油，烧吕公交车，驾千斤秤钩懒龙爪，用长斧砍木梯，筑夹城防穴道。遇春攻之，弗克，乃以奇兵出不意，突入南门瓮城，毁其所架炮，攻围甚急。院判张斌度不能支，遣使约降，夜出小西门，迎大军入，众遂溃，擒宋伯颜不花。遇春还宁越。寻改宁越为金华府。
冬十一月，胡大海、耿再成进攻处州。初，再成驻兵缙云之黄龙山，规取处州。黄龙四面陡绝，再成树栅其上，以遏其冲，敌兵来，咸捣败之。元处州守将参政石抹宜孙遣元帅叶琛屯桃花岭，参谋林彬祖屯葛渡，镇抚陈仲真等屯樊岭，元帅胡深守龙泉，以拒我师。士卒皆弛怠，无斗志，胡深弃军来降，且言处州兵弱易攻。大海即出军樊岭，与再成合攻之。桃花岭据山巅，最险厄，再成间道出其后，连拔桃花、葛渡二砦，遂薄城下。壬寅，宜孙战败，弃城走。建宁七邑皆下，以再成统兵镇之。未几，宜孙收散卒，欲复处州，攻庆元，再成复击败之，宜孙战死。
