公元1344年，朱元璋离开皇觉寺，开始了三年多的云游生涯。他一路向南，先到合肥，再的向西，到了河南的固始、信阳，又北上汝州、陈州，转向东，经鹿邑回到安徽，到了亳州和颍州。一路上风餐露宿，有人家处便沿门托钵，讨些粮财，身心都受到了磨练。真是天将降大任于斯人也，必先苦其心志，劳其筋骨，饿其体肤，空乏其身。行拂乱其所为，所以动心忍性，增益其所不能。这时朱元璋已经不是一个世事不更的莽撞少年了。在游历当中，他了解了世态炎凉，熟悉了风土人情。他游迹的主要区域在淮西，这是他未来军事生涯起步的地方，对他以后的行军作战大有益处。他看到了贫民们流离失所，广大农民艰难困苦，而元朝政府和各级统治者却仍旧无情的压迫百姓。
他也接触了明教和弥勒教在民间传播的情况，感受到了大众郁积的不满和愤怒。他开始思考，在如此荡的社会中，他将怎样被影响，将会成为什么样的角色？他自己和整个社会的前景又在哪里？难道他就这样一辈子只做这么一个小行童吗？不，他绝对不会允许自己就这样平庸的过一生的。在1348年底朱元璋回到了皇觉寺，他已经决定不再过做一天和尚撞一天钟的生活了，他要在将要来临的时代大潮当中谋求自己的未来。他开始有意识的训练自己，童年时，他曾经在村里蒙学学过一些字，现在他迫切地知书识礼才能有见高识远，才能使头脑清醒。他想尽了一切办法多读书，多识字；同时下功夫结交有见识的，有作为的一些好汉，互相激励，此时，朦胧的雄心大志已经在小小年纪的朱元璋心里开始发芽。
在至正三年和四年，黄河决口，冲淹了大片的农田，元朝政府主要税收渠道之一的盐场也受到了威胁，元首相脱脱就决定召集民工重修河堤，将黄河勒回河道。在公元1351年的四月，脱脱任命贾鲁为工部尚书兼河防使，召集汴梁大名民夫十五万，庐州等地的军队二万，开始治理黄河的工程。当时河南各地遍布着零星的起义军，明教教主韩山童认为现在时机已经到了，准备大举起义。便派人到处散布童谣：“休道石人一只眼，挑动黄河天下反。”暗里派人雕刻了独眼的石像，投进了黄河黄陵岗开挖处。同时密遣几百个教徒充当民夫，宣扬天下大乱，明王现在已经出世，就要拯救万民于水火之中了。一时间，消息传遍了河南和江淮一带，民间无不沸腾。
不久，独眼石人果然被人挖了出来，一时间群民无不震动，相信老天爷终于开了眼了，要反掉元朝的天下了。韩山童又听从了亲信刘福通的意见，打出了复宋的旗号，争取汉人知识分子和官吏的参与。在河南广平府永年县白鹿庄，韩山童召集三千人，祭天告地，称自己为宋徽宗第八代孙，将要恢复汉人的天下，为中国主。他们预定了时日，准备各处一齐起兵，然而不幸的是消息走漏，韩山童被元朝所擒获并且被残忍的杀害。刘福通就率领一部分部众突出了重围，眼看事情已经败露了，索性就提前起义了，一路攻占了颍州和罗山、上蔡、真阳、确山。黄陵岗的民夫们得知了这个消息之后，立即起事，并和刘福通汇合在一起。这支头裹红巾的起义军声势很快就壮大了，攻克了汝光和息等地，占领了米禽朱臬，开他散粮。一时间附近的贫苦百姨们纷纷投奔，短时间内义军就发展到了几十万人。
公元1355年，刘福通立韩山童之子韩林儿为帝，号称为小明王，国号宋，都在亳州，建元龙凤。同一年内，相继又有几处大规模的红巾起义。芝麻李及彭大和赵均用攻陷徐州。彭莹玉、徐寿辉、邹普胜起于蕲，并以蕲为都城，立徐寿辉为帝，国号天完。汀汉流域，有布王三、孟海马和北琐红巾军。闽浙一带，早在1334年，便有方国珍于台州起义，并且在第二年就攻陷了温州。当时，红巾军的檄文当中指斥元人贫极江财，富夸塞北。在大江南北，流先着这么一首歌谣唱道：“天遣魔军杀不平，不平人杀不平人，不平人杀不平者，杀尽不平方太平。红巾军士气高涨，所到之处，所向披靡，元军久不征战，军纪败坏，连战连败。一些地方官员与大地主为了保护自己，便招募一些游民，组成义兵和民兵，号称为青衣军，顽强的对抗红巾军。公元1352年，郭子兴和孙德崖的一支红巾军攻占了濠州，朱元璋的家乡也笼罩在红巾风潮当中。
红巾军的消息传来，元璋的好友汤和和徐达都先后投奔了义军，但是此时朱元璋依旧有些犹豫不决，他不是那种容易被人左右，冲动和鲁莽之人。濠州城外元将彻里不花不敢与红巾军正面冲突，便派人四下到乡里抓人，充作叛匪，邀功领赏，农村里的人人人自危。有一天，汤和从濠州城里送来了一封信，邀请朱元璋参加红巾军这时朱元璋还是没有下定最后的决心，可是有人将这件事秘密报告了官府，这寺里是呆不去了，偏偏这个时候，元军因为庙里供有弥勒佛像，便派人来烧了皇觉寺，此时后路已断，朱元璋无奈之下只得投奔濠州去了。后来朱元璋在说过：”住方三载，而有雄者跳梁。初起汝颍，次及凤阳南厢。未几陷城，深高城隍。拒守不去，号令彰彰。友人寄书，言及趋降。既忧且惧，无可筹详。旁有觉者，将欲声扬。当此之际，逼迫而已，试与知音相商。乃告知，果束手以待罪，亦奋臂而相戕。知者为我画计，且默祝祷以阴阳，如其言往卜，去守之何详？神乃阴阴乎有警，其气郁郁乎洋洋。卜逃卜守则不吉，将就凶而不防。
与其等着灾祸降临，还不如奋起反抗，死也死得值得。面对凶险，逃避和坐以待毙都没有什么出路。从朱元璋投奔义军的这种踌躇的心境来看，他并不是一个激情献身的理想主义者，而是一个做事有计较的现实主义者。公元1352年的闰三月初一，朱元璋投到了濠州红巾军的旗下。起初，朱元璋被收为步卒，在军旅生涯当中，他很快显示出了自己的才干，勇敢、有计谋，遇事沉着冷静。出城哨探或者打仗，他总是走在最前面，每次都能顺利安全的完成自己所执行的任务。他敢担当责任，处事公平，对待弟兄们也很谦逊，从来有功不独占，不好出风头，很快就赢得了大家的信任，也很受队长的器重，在不久之后就积功升为新兵十夫长，被郭子兴调入元帅府听用。在元帅府，朱元璋办事尽职尽责，效率很高；人缘又好，又粗通文墨，有见识，又有主意，很快就成了郭子兴的亲信人。郭子兴收养了一个老友的女儿马氏为义女，因为郭子兴看到朱元璋能干且又可靠，便把马氏许配给了朱元璋。马氏贤良宽厚，后来成了朱元璋忠实的贤内助。
其实当时濠州城内的情形也并不是很乐观，没有一个统一的首领，五个元帅都是各自为政，分为两个帮派。以孙德崖为首的四人都是贫苦农民出身，而郭子兴本来是个大地主，两帮人经常为了一些事情而谈不拢，所以经常是互相的倾轧。在公元1352年的九月，元朝的丞相脱脱领兵攻克徐州，芝麻李一支红巾军受到了重创，芝麻李被俘而身亡。余部由彭大和赵均用率领投奔了濠州。彭大和赵均用进入濠州城之后，因为势大控制了五个元帅。他们二人之间也有矛盾，分别和郭、孙两帮亲近。一次，赵均用和孙德崖绑架了郭子兴，朱元璋请彭大救回，两帮人嫌隙是越来越深，城内是斗得乱七八糟，而城外的元军也是渐渐逼近，从这年冬天至第二年的春天，元将贾鲁率兵围城七个月，后来还是因为贾鲁因病身亡，濠州城才得以解围。朱元璋看到濠州城里的形势，实在是没有什么前途，便请求郭子兴派他出动募粮招兵。他先在怀远设法弄了一些粮食，以济军队的饥荒。又回到故乡钟离招兵，童年时代的伙伴和许多的乡亲徐达、周德兴、邵荣和常遇春等人都前来投奔，一时之间募集了七百余人。郭子兴升他为镇抚，他从此有了一批可靠能干的淮西战将，以后这批人成了他队的骨干和开国的功臣。
有了自己领导的一批人马，朱元璋决定小试锋芒。他了解到定远驴牌寨有一支三千人的民兵处境不好，便派人游说，又使出计策控制了主帅，将这支队伍收归己有。然后指挥这支队伍，夜袭横涧山元军营地，收降其二万汉兵。自此，朱元璋有了自己的军队。有了将领，有了军队，朱元璋有了创业的基础，他看到濠州城内起义军散乱无纪，无所事事的败迹，深以为诫。所以他采取的第一个行动就是规定军纪，重新编制，训练士卒，他要把军队建成有战斗力的生力军。要成大业，不能只依靠攻城掠地的武将，朱元璋也开始留意吸纳文人儒士，帮他出谋划策。这时来了一个对朱元璋影响很大的人，他就是李善长，此人字叫百室，安徽定远人。
生于元仁宗延右元年，祖藉在安徽的祁门，父号憩庵，能写一手好毛笔字，是个相当有文化素养的知识分子，还出过一本名为《书法论》的理论着作。所以李善长也逄出身于书香门第，加上他从小就聪明好学，读书很是刻苦，他父亲希望他能走读书中举之路，以求得飞黄腾达。但是残酷的现实很快就把李善长的愿望打击的粉碎，元朝统治者实行严重歧视汉人的政策，把汉民族列为最劣等的民族；同时也看不起知识分子，把读书例子入社会的最后一等，所谓七尼八娼九儒十丐，也就是说读书人也就是比要饭的强一些，比尼姑和娃妓还有所不如。因此，李善长想要在这样的社会环境当中通过读书而有所作为是完全不可能的，也是不现实的。
于是，他受徽州商人社会的影响，决定弃文从商，另辟蹊径。果然他的智计特长在这个领域里得到了充分的发挥，他往来于家乡与凤阳之间，很快就发了财，又娶了定远富室王家的女儿为妻，在定远安了家落了户。财大气粗，加上计谋远略，策事多中，他成了定远的知名人物。他的这种经历也为他以后为朱元璋经商、理财和当大管家打下了坚实的基础。在公元1351年的时候，韩山童和刘福通领导的红巾军起义爆发了，消息传到了定远，李善长高兴极其，因为从内心是他是十分的仇恨这个王朝的。但他没有马上像别人那样揭竿而起，而是采取了客观观望的态度。因为扯旗造反如果成功了固然可喜，但是如果败了的话，那是要被灭九族的。
所以，当他的妻兄王濂劝他及早入伙的时候，李善长说不能操之过急，他还要看看这些人能不能成气侯，是不是一些干事的人。前面说的朱元璋起事的一举一动都在李善长的密切注视当中。他很佩服朱元璋的胆识和谋略，一个隐约但模糊的真龙天子的形象在他的眼前浮现。当断则断，决不可再犹豫与迟疑，享大宝贵必须要共大患难。于是，他把家事稍稍作了一些安排，就急忙去追赶朱元璋的队伍了。在公元1354年，四十二岁的李善长身穿一身儒装在朱元璋去滁州的歇脚处请求召见。从此，李善长就一直跟随朱元璋，一直到他七十七岁死去为止。朱元璋听说是定远名人李善长前来投靠他，不禁大喜过望，说道：“先生来投，真是天赐我也！”
