在刘福通红巾军转战北方的时候，濠州郭子兴红巾军正在壮大起来。郭子兴本来是定远（今安徽定远）地方的一个财主，因为出身低微，经常受地方官吏的敲榨勒索，心里气愤不过，加入了白莲会。他拿出家里的钱财，结交江湖好汉，伺机向官府报复。
公元1352年，刘福通起义的第二年，郭子兴看见时机成熟，就和四个朋友一起，率领千余人，趁着黑夜，攻进濠州城，杀了州官，把濠州城占领了，宣布起义。郭子兴和他的四个好友都自称元帅。
元王朝派大将彻里不花带兵围攻濠州。彻里不花害怕红巾军，不敢攻城，却派兵士在城外捉了一些百姓，当作俘虏向上级冒功请赏。城外的老百姓遭到迫害，过不了日子，纷纷逃到城里投奔郭子兴。郭子兴的队伍越来越壮大。
一天晚上，濠州的红巾军正在城门巡逻。忽然城外来了一个青年和尚，说要投奔红巾军。守门的红巾军兵士怀疑他是元军派来刺探军情的奸细，一面把他捆绑起来，一面派人报告郭子兴。
郭子兴一听，心想也许来的真是投奔他的好汉，亲自骑马到城门口去察看，只见那个被捆绑起来的和尚，虽然衣穿得破破烂烂，却长得身材魁梧，浓眉大眼。郭子兴同他谈了几句后，觉得这和尚是个人才，便命令兵士松了绑，把和尚带回元帅府。
这个投奔郭子兴的青年和尚，就是朱元璋。他父亲是濠州钟离（今安徽凤阳东）一个贫苦农民。朱元璋十七岁那年，淮北地方闹了一场严重的旱灾和蝗灾，接着又蔓延了瘟疫。朱元璋的父亲、母亲和大哥接连传染上了疫病，咽了气。剩下朱元璋和他的二哥，连买口棺材的钱也没有，亏得邻居同情他们，帮助他们把父母埋葬了。朱元璋失去了父母亲，生活没有着落。为了混口饭吃，他只好到附近的皇觉寺当小和尚。
朱元璋就出了家。那种寺院里的小和尚，其实是给人使唤的佣人。朱元璋每天伺候师父、师兄，起早摸黑，扫地，上香，敲钟，做饭，日子过得挺苦。那个日子里要在皇觉寺混口饭吃也不容易。原来，皇觉寺是靠收租米过日子的，这年灾情严重，皇觉寺收不到租米。朱元璋在寺里呆了才五十天，眼看要断粮了。师父、师兄位个个离开寺院到外面化缘去，朱元璋也被打发出门，带着小木鱼和饭钵到淮西一带流浪讨饭。过了三年，濠州的灾情稍微缓和了一点，他才又回到皇觉寺。
又过了一年，红巾军起义爆发了，朱元璋在寺里不断听到外面传来的消息，一会儿是刘福通占领了颍州，一会儿是芝麻李占领了徐州。到了年底，又听到濠州也被红巾军占领了。朱元璋就离开皇觉寺，到濠州来投奔郭子兴。郭子兴把他留在身边当个侍卫长。
朱元璋参加起义军以后，很快表现出他的才能。他打仗勇敢，又有计谋。郭子兴把他当作心腹看待，出去打仗，总要先跟他商量。在起义兵士中，朱元璋的声望渐渐提高了。郭子兴有个好朋友姓马，在郭子兴起兵那年病死。马公临死的时候，把他的孤女托给郭子兴照顾。郭子兴把女孩带回家里，交给妻子张夫人抚养，把她当作自己的亲生女儿一样。郭子兴一见朱元璋是个人才，就跟张夫人商量，要把马公的女儿嫁给朱元璋，张夫人一听也十分赞成。这样，皇觉寺的小和尚就做了郭元帅的女婿，地位也不同了。在起义军中，大家都称他“朱公子”。
濠州的红巾军里，连郭子兴在内，共有五个元帅。五个人平起平坐，不分高低，谁也管不了谁。除郭子兴外，另外四个元帅都有点江湖气，不讲纪律。郭子兴渐渐看不惯他们，他们也嫌着郭子兴。日子一久，矛盾越来越深，四个人就合在一起，排挤郭子兴。有一次，郭子兴险些被他们害死，亏得朱元璋得到消息，把郭子兴救了出来。
朱元璋发现起义军的几个将帅胸襟狭窄，在他们手下干事，成不了什么气候，就回到老家，招兵买马。他少年时候的伙伴徐达、汤和，听说朱元璋做了红巾军的将领，都来投奔，不到十天，就招募了七百人。后来，又袭击元军，招降了一批元军。朱元璋得了大批生力军，整顿纪律，加紧训练，把手下的军队训练成一支战斗力很强的队伍，声势大振。
定远有个文人李善长，是个很有计谋的人，也来找朱元璋。朱元璋知道他很有学问，就让他在起义军里当谋士。有一次，朱元璋问李善长说：“现在全国到处都在打仗，什么时候才能太平呢？”
李善长说：“秦朝末年，也这样大乱过。汉高祖是平民出身，因为他气量大，能够用人材，又不乱杀人，只用了五年时间，就统一天下。现在元朝政治这样混乱，天下土崩瓦解，您何不向汉高祖学习呢？”朱元璋听了之后，觉得有道理，就一心一意想学汉高祖刘邦。之后，投奔他的人越来越多。
朱元璋带着自己训练出来的队伍，连续打下滁州、和州。小明王韩林儿在亳州称帝那年，郭子兴得病死了。小明王就封郭子兴的儿子郭天叙为都元帅，朱元璋做了副元帅。
郭天叙没有指挥战斗的经验，红巾军中大多将士都是朱元璋的亲信，朱元璋名义上是副帅，实权全掌握在他手里。没多久，郭天叙在攻打集庆（今江苏南京）的时候，被叛徒杀死，朱元璋就当了名副其实的元帅。
朱元璋独掌兵权以后，率领大军大破元朝水军，渡江攻打集庆，集庆五十多万军民投降。朱元璋进了集庆，出榜安民，把集庆改名应天府。从那时候起，朱元璋就以应天府作为根据地，向江南一带发展，逐步拥有一统天下的势力。
