至正十五年（1355年），朱元璋一举攻克了和县。
郭子兴即刻任命朱元璋为总兵官，镇守和州。
一次，朱元璋外出，看到一个小孩在哭，朱元璋问他为什么哭，答说是等父亲。
朱元璋仔细一询问才知道，原来孩子的父亲和母亲都在军营，父亲在营中养马，母亲和父亲不敢相认，只好以兄妹相称。
朱元璋意识到，部队军纪存在问题，他们攻破城池后，扰民滋事，掳掠妇女，这样下去，部队将失去民心。
于是，朱元璋召集众将，申明纪律，下令归还军中有夫之妇，让城中许多被拆散的夫妻团圆。
此事广为传颂，朱元璋深得民心。
暂缓称王 秘扩实力
此年中，郭子兴病逝，小明王韩林儿任命郭子兴的儿子郭天叙为都元帅，妻弟张天佑为右副元帅，朱元璋为左副元帅。
名义上，都元帅是军中之主，右副元帅的地位也比左副元帅高。
但是滁州和和州的军队，多是由朱元璋招募收编的，而且朱元璋比郭天叙和张天佑有勇有谋，并且手下又有人才。
所以，朱元璋事实上成了这支队伍的主帅。
朱元璋本不甘受制于小明王，但考虑到韩宋势力强盛，可借助其威势，遂以龙凤纪年号令军中。
朱元璋奉行徽州谋士朱升提出的“高筑墙，广积粮，缓称王”的策略， 迅速秘密扩张自己的实力，这三条战略是朱元璋发展初期的指导思想。
朱元璋在和州驻守几个月后，粮食供应成了问题。
与和州相对，紧靠长江南岸的太平、芜湖是盛产稻米的地方，但是没有船只。
这时恰好两支红巾军的巢湖水军前来归附，朱元璋亲自处理合并事宜。
七月间，巢湖水军千余只战舰突破元军封锁抵达和州。
朱元璋的步马军登上巢湖水军的船只，从和州东渡长江。
到达对岸的采石，常遇春率军冲杀，攻克采石，获得大量粮食。将士想把粮食和战利品运回和州慢慢享用。
见此，朱元璋果断地命人砍断船缆，任船顺流而下，断绝退路。
将士们见无路可退，一鼓作气，在朱元璋率领下攻克太平。
进入太平，朱元璋重申军纪，严禁掳掠，有个别兵士犯禁，立即处死，因此，朱元璋的军队受到当地百姓的拥护。
朱元璋于是置太平兴国翼元帅府，自己做元帅，任命李善长为帅府都事。
这样，朱元璋便开始了稳固根据地的工作。
至正十六年（1356年）三月，张士诚在长江三角洲地带发起攻势，进攻江南元军。
趁此机会，朱元璋亲自统率水陆大军，第三次进攻集庆。
在第三天，攻破城外的陈兆先军营，其部三万六千人归降。
但是，朱元璋看出降军心存疑虑，军心不定。
于是朱元璋就从降军中挑选了五百名勇士当亲军，在夜里守卫，而自己身边，只留有亲兵统领冯国用一人。
第二天，降军知道此事，都十分感动，疑虑全消，甘愿跟随朱元璋。
于是，战争进行得十分顺利，不到十天，朱元璋便攻下集庆。
朱元璋进城后，下令安抚百姓，改集庆为应天府。
小明王韩林儿获报后，升朱元璋为枢密院同佥，不久又升为江南等处行中书省平章。
朱元璋在应天则设天兴建康翼大元帅府，以廖永安为统军元帅，李善长为左右司郎中。
至正十七年（1357年），耿炳文克长兴，徐达克常州，而朱元璋亲自率军攻取宁国。
随后赵继祖克江阴、徐达克常熟。胡大海克徽州、常遇春克池州，缪大亨克扬州。
至正十九年（1359年），朱元璋陆续攻占浙东余下各地，常遇春克衢州、胡大海克处州，至此朱元璋部控制江左、浙右各地，向西与陈友谅部相邻。
是年五月，小明王升朱元璋为仪同三司、江南等处行中书省左丞相，至正二十一年（1361年）正月，封朱元璋为吴国公。
此时，尽管朱元璋拥有十万兵力，但是占有的地盘仍然很少，而且四面受敌。
东面和南面是元军，东南是张士诚，西面是徐寿辉，虽然同是反元武装，但是张、徐二人同小明王却相互敌视。
不过，北面小明王、刘福通率领的红巾军主力，大大牵制了元军，而且，张士诚、徐寿辉的力量还不足以兼并朱元璋。
这样一来，朱元璋暂时面临着一个很好的发展机会。
至正二十年（1360年），刘基被朱元璋请至应天（今南京），委任他为谋臣。
刘基针对当时形势，向朱元璋提出避免两线作战、各个击破建策，被采纳。
完成了“高筑墙”的部署后，朱元璋便着手实行“广积粮”。
为了解决粮食问题，朱元璋除了动员百姓进行生产外，决定推行屯田法，大力开展军队屯田，任命元帅康茂才为都水营用使，负责兴修水利，又分派诸将在各地开垦种田。
几年工夫，到处兴屯，府库充盈，军粮充足。
在至正二十年（1360年），朱元璋下令不再征收“寨粮”，以减轻农民负担。
为了积粮，朱元璋明令禁酒，但是其手下大将胡大海的儿子胡三舍与别人违法犯禁，私自酿酒获利，朱元璋知道后，下令杀了胡三舍。
有人进谏说胡大海此时正在攻打绍兴，希望朱元璋可以看在胡大海的面子上放了胡三舍。
朱元璋大怒，坚决严明军纪，于是自己动手将胡三舍杀掉。
在争取民心的同时，朱元璋还不断网罗人才，特别是知识分子，朱元璋在应天还专门修建了礼贤馆来接待他们。
这些人在朱元璋统一全国的过程中起了重要作用。
朱元璋十分尊重儒士，他曾在至正十八年（1358年）召见儒生唐仲实，询问汉高帝、汉光武帝、唐太宗、宋太祖、元世祖平定天下之道 ，这也表明朱元璋决心要开创一个新的皇朝。
攻灭陈汉
朱元璋建立以应天为中心的根据地，在长江上游有陈友谅，下游有张士诚，东南邻方国珍，南邻陈友定。
方国珍、陈友定的目标在于保土割据，张士诚则对元朝首鼠两端，没有多大雄心；陈友谅最强，是朱元璋占领应天后遇到的最危险的敌人。
鄱阳湖之战形势
陈友谅本是徐寿辉手下大将倪文俊的部下。
后来他杀死倪文俊，并于至正二十年（1360年）挟持徐寿辉，攻占了太平、采石。
于是陈友谅以为应天唾手可得，就杀了徐寿辉，在采石称帝，国号汉，改元大义。
接着，陈友谅约张士诚东西夹击应天，平分朱元璋的领地，应天大震。
朱元璋只好召集众将商量对策，一时众说纷纭。
惟有刘基默不作声，朱元璋于是征求他的意见，刘基认为如今最危险的敌人莫过于陈友谅，必须集中力量消灭他。
虽然陈友谅势力强大，但他杀君自立，部众离心，人民疲敝，故而不难战胜，只要等他们深入，再以伏兵击之，不难取胜。
朱元璋同意刘基的判断，于是设计诱敌深入，制造战机。
朱元璋的部将康茂才和陈友谅是老朋友，于是修书一封，派人送到陈友谅营中，约陈攻击应天，并说愿意在江东桥作内应。
六月二十三日早晨，陈友谅率舰队主力赶到应天郊外的江东桥，才发现桥是石桥而非木桥，方知受骗中计。
但为时已晚，朱元璋的伏兵奋起攻击，陈友谅大败。
朱元璋收太平，占领信州、安庆。
陈友谅败逃九江，第二年八月攻下安庆，于是朱元璋率军直取陈友谅的老巢江州，陈友谅逃往武昌， 朱元璋攻克江西和湖北东南部。
正在这时，中原红巾军发生分裂，力量削弱。
至正二十三年（1363年）二月，张士诚趁人之危，派部将吕珍进攻安丰，刘福通向朱元璋求救。
朱元璋率军赶到安丰，救出小明王韩林儿等，把他们安排在滁州居住。
朱元璋率主力营救小明王时，陈友谅认为反攻时机已到，于是率兵进攻洪都。
朱元璋的侄子朱文正率领将士坚守八十五天。
至正二十三年（1363年）七月，朱元璋统兵二十万，进发洪都，陈友谅获悉后，撤出围军，迎战朱元璋，双方在鄱阳湖展开决战。
鄱阳湖水战从八月二十九日开始，至十月三日结束，进行了三十六天。
朱元璋的军队充分发挥小船灵活的长处，火攻陈军，最终取胜， 陈友谅被乱箭射死。