农民大起义的浪潮，很快波及朱元璋的家乡。至正十二年（1352）二月，濠州出现了郭子兴领导的红巾军。

郭子兴是定远（今属安徽）的土豪，原籍曹州（治济阳，今山东菏泽）。他父亲从小给人卖卦相命，整年在外，到了壮年，也没娶上妻子。有一年来到定远，路过一户财主的家门口，财主请他给二女儿相命。他卜了一卦，说是大富大贵的命。财主叹口气说：这个女儿是个瞎子，还愁着嫁不出去哩！他说：你老要不嫌弃我，就把她嫁给我为妻吧。财主就把瞎女儿嫁给他，并给他一份财产。他从此在定远定居下来，家境日见富裕，养了三男一女。三个儿子长大以后“皆善殖产，由是豪里中”，拥有大量田产，成了当地有名的地主。郭子兴是三个兄弟中的老二，他看到当时朝政腐败，社会动荡，估计天下有变，便加入了白莲教，广散家财，结交豪杰，聚众烧香。刘福通起义特别是芝麻李在离定远不远的徐州、宿州起义后，他决心起兵响应。至正十二年正月十一，郭子兴联合孙德崖和俞某、曹某、潘某四人起兵于定远。定远和钟离一带的几万农民，“弃农业，执刃器”，纷纷前往投奔，“贪官污吏，莫敢谁何”。二月二十七，郭子兴等五人率领起义队伍，攻占濠州（治钟离），五个首领并称元帅。郭子兴的这支队伍也以红巾为号，“衣巾皆绛”，信奉的又是韩山童一派的白莲教，属于北方红巾军系统。

得到郭子兴红巾军攻占濠州的消息，官府急忙命令一个名叫彻里不花的蒙古军官带领3000名官军前来镇压。这支官军见郭子兴队伍人多势众，不敢攻打濠州城，而是在距城20里的地方驻扎下来，然后四出骚扰，到处捉拿无辜的百姓，在他们头上扎一条红巾，说是“乱民”，押到官府去请赏。老百姓纷纷呼亲唤友，跑到濠州，“相继入城”投奔郭子兴。朱元璋在於皇寺整天提心吊胆，只得东躲西藏，以免被官军当作“乱民”抓走，丢了性命。

郭子兴的队伍也同其他的起义队伍初起时一样，“哨惊（掠）四乡”，打家劫舍，既不讲纪律，也不注意斗争策略。当时的寺院拥有大量土地，残酷剥削佃农，寺院的住持又多自诩正统，对白莲教持反对、排斥态度，因而往往成为红巾军打击的对象。有一天，朱元璋外出避难，傍晚返回於皇寺，寺庙已被郭子兴队伍放火烧掉大半，只剩下伽蓝殿还完好无损。朱元璋的生活失去了依靠，下一步该怎么办？他苦苦思索，一时拿不定主意。“出为元兵，恐红军至；欲入红军，畏元兵至，两难莫敢前”。不久，有个参加红巾军的老乡汤和从濠州捎信给他，说现在兵荒马乱，人无宁居，待在乡下很不安全，何不前来入伍，或许还有活路。朱元璋看完信偷偷烧掉，翻来覆去想了好些日子，一直决断不下。后来，同屋的师兄告诉他，有人发现他收到濠州来的信，要去官府告发，劝他赶快逃走。朱元璋急得没法，找了个知心的熟人商量，问他是应该“束手以待罪”还是“奋臂而相戕”？那人劝朱元璋向菩萨讨个卦，再决定去留。朱元璋原先并不怎么相信神佛有灵，对菩萨也不那么恭敬，事到如今，只好硬着头皮试一试了。他走近伽蓝殿，看大殿内外没有其他人，便走进去，点上香，磕了头，祈求冥冥之中的菩萨给他一个启示，接着拿起神案上的两块珓来卜卦。他先卜问是出去避难还是守在庙里，卜了三次，都是否定性的凶卦，再卜问是否应该跟着红巾军造反，卜了三次，结果竟是肯定性的吉卦，于是决心去投奔起义军。当天深夜，他乘庙里几个和尚熟睡之机，偷偷走出庙门，迎着初春料峭的寒风，摸黑抄着山边田头的小道，悄悄地向西边20多里外的濠州城走去。

第二天黎明，东方的山岗上刚露出一抹鱼肚白，朱元璋来到濠州城外不远处地势稍高的地方，抬眼望去，只见城头上飘扬着几杆红色的旗帜，城门口站几个头扎红巾、身披红色战袍的哨兵，不觉心潮起伏，兴奋异常。他稍稍驻足停顿一会，便向城门走去。由于城外驻扎着元军，哨兵怀疑他是元军派来的奸细，把他捆绑起来，准备押出城外处决。朱元璋和士兵争吵起来，吸引了许多围观群众。有人把这事报告郭子兴，郭子兴骑马驰出城门，想问个究竟。他喝退哨兵，端详这个身披破袈裟的和尚，见此人身材高大，黑黑的脸盘上，高额突出，下巴比上额又长出好几分，再配上高高的颧骨，活像一个横摆着的立体形的“山”字。模样虽然不甚好看，但身体结实，双目炯炯有神，再加上那副大鼻子、大耳朵，倒也显得十分威武。郭子兴下马细问，知是於皇寺的穷和尚，是自己的部下汤和邀来投军的，就叫亲兵松绑，收下他做步卒。这一天，为至正十二年（1352）闰三月初一（阳历4月15日），朱元璋虚龄二十五岁。

元朝的黑暗统治和地主阶级的残酷剥削压迫，把朱元璋逼入存身无处、生命不保的绝境。为了寻求一条活路，这个贫苦出身的穷和尚，终于在时代潮流的裹挟下，投身到反抗压迫剥削的斗争行列，成为一名红巾军战士，并加入了白莲教。

参加郭子兴的起义队伍后，朱元璋脱掉袈裟，换上红袄，头扎红巾，每天在队长的带领下，同战士们一块儿上操，练习武艺。由于他操练十分认真刻苦，十来天就成为队里拔尖的角色。郭子兴每次领兵出击，都把他带在身边，他“从旁翼卫，跳荡无前。斩首捕生过当”，立下不少战功。大约过了两个多月，郭子兴把他调到元帅府当亲兵，授予九夫长的军衔，有事经常找他商量。日子一长，郭子兴觉得朱元璋有胆有识，有勇有谋，是个将才，开始叫他带兵作战。朱元璋每次率兵出征，都身先士卒，冲杀在前；得到战利品，又分毫不取，悉数分给部下，因而深受士兵的拥护，上下一心，所向披靡。郭子兴“由是兵益盛”，对朱元璋也更器重，决定把他收为心腹。

郭子兴的第二夫人张氏，人称小张夫人，抚养了一个义女，是他的老友马三的小女儿。马三原是宿州闵子乡新丰里的富户，“世豪里中”，少壮时“膂力过人，沉毅寡言笑，重然诺而性刚直。疾恶，见有为不义者，视之若仇雠。然或少忤其意，辄肆殴击，虽至死无所畏惮，乡人无敢犯”。又喜交宾客，“善施而贫”。至顺三年（1332）七月十八，他的妻子郑氏生下小女儿后死去。不久，他因杀人避仇，带着小女儿逃到定远投奔郭子兴，与之结为刎颈之交。郭子兴把他的小女儿收为义女。郭子兴有两个夫人，都姓张，正室张氏生有三个儿子，第二夫人张氏即小张夫人没有生育，他便把这个义女交给小张夫人抚养。郭子兴揭竿起义时，马三回宿州策划起兵响应，不料回去不久就死了。郭子兴要把朱元璋收为心腹，就找小张夫人商量，想把这个义女许配给他。小张夫人早听说朱元璋人才出众，马上表示赞同：“吾意亦如此！今天下大乱，君举大事，正当收集豪杰，与成功业，一旦彼或为他人所亲，谁与共成事者？”他们把这事告诉朱元璋，朱元璋早就听说马氏虽然长得不太漂亮，但端庄温柔，不仅“善承人意”，而且“知书精女红”，是个贤惠的姑娘，何况她又是元帅的义女，和她一结婚，前程就更有保障，自然是满口答应。郭子兴择个吉日给他们两口子成了亲，将士们从此便称呼朱元璋为“朱公子”。

郭子兴将朱元璋招为女婿后，对他更加信任。不久，让他带领一支队伍，外出攻城略地。他先后攻五河，取定远，克南宿（今安徽宿州）、大店（在今宿州东）、固镇等地。但是，当朱元璋领兵回到濠州，城里的五个元帅却闹开了摩擦。原来，五个元帅中，孙德崖等四人名位皆在郭子兴之上，郭子兴性“素刚直，不屈人下”。孙德崖等四人都出身农民，性格粗犷憨厚，但缺少智谋，整天只考虑如何剽掠财物，郭子兴“意轻之”，他们心里不高兴，便联合起来对付郭子兴。两下里面和心不和，一块儿议事，总是吵得不可开交。后来，郭子兴常常待在家里不出门，很少参加公会。朱元璋回到濠州，郭子兴找他商量对付的办法。朱元璋劝郭子兴照常和大家一起公会，有事大家一块儿商量，接触的机会多了，互相了解，情况会逐渐好转起来。郭子兴觉得有道理，第二天就出去公会，可是刚过三天，又和孙德崖他们闹翻，待在家里生闷气，不再出门。双方的关系越搞越紧张，彼此猜疑，互相防范，都怕对方下毒手。

正至十二年（1352）九月，正当濠州五个元帅闹摩擦之时，另一支红巾军的首领彭大、赵均用从徐州前来投奔。他们各自支持一方，火上浇油，使五个元帅的矛盾更加尖锐。

自刘福通点燃颍州起义的火炬之后，各地农民军的势力发展很快，一年多的时间，即占领了黄河以南的大部分地区，包括武昌、杭州等许多重要城市在内，切断南北的交通。面对汹涌而来的起义浪潮，元廷从各个方面调整蒙古、色目贵族和汉族地主阶级之间的关系，宣布实行纳粟补官之令，规定：“凡各处士庶，果能为国宣力，自备粮米供给军储者，照依定拟地方实授常选流官，依例升转、封荫；及已除茶盐钱谷官有能再备钱粮供给军储者，验见授品级，改授常流”；并在中央机构再次起用南人，规定：“南人有才学者，依世祖旧制，中书省、枢密院、御史台皆用之”，任用宁国（今安徽宣城）人贡师泰为监察御史，饶州（今江西鄱阳）人周伯琦为兵部侍郎，借以缓和统治阶级内部的矛盾，一致对付农民起义。同时，下令“天下完城廓”，制定惩治“军民官不守城池之罪”的办法，并调集各地兵力，加紧对起义军的镇压。

当时芝麻李、赵均用、彭大等人占据徐州，声势日盛。元朝派淮南宣慰使逯鲁曾带兵前去镇压，由于元军不习江淮水土，他招募濒海盐丁及矫勇健儿2万人，穿黄衣，戴黄帽，组成一支“黄军”，包围徐州城。元右丞相脱脱看到徐州唾手可得，自请挂帅出征，令征讨徐州将领驻守原地，待他到达后，才许攻城。元顺帝批准脱脱的请求，命中书省、枢密院、御史台派出部分官属随从出征，禀受节制，一切悉听脱脱便宜行事。至正十二年九月，脱脱率领10万元军抵达徐州，采用宣政院参议也速之计，以巨石作炮，昼夜猛轰，攻入城里。芝麻李力战突围，辗转进入湖北，投奔徐寿辉，以后又随明玉珍出兵四川，最后出家为僧，遁身空门。赵均用、彭大及其子彭早住率领部分队伍，投奔濠州。

赵均用、彭大来到濠州后，他们的兵力超过濠州原来的力量，而且由于他们起义较早，名望较高，濠州五个元帅只好听从他们的指挥。彭大颇有智术，专权自断，赵均用唯唯诺诺，事无主见。郭子兴看不起赵均用而厚待彭大，赵均用因此怨恨郭子兴，亲近孙德崖四人。孙德崖四人乘机在赵均用面前挑拨说：“子兴知有彭将军耳，不知有将军也！”赵均用大怒，待郭子兴走到街上，派人把他抓住，关到孙德崖家里，准备暗地把他杀掉。此时朱元璋正奉郭子兴之命攻打怀远及安丰，他闻讯急忙赶回，路上遇到熟人，说郭元帅已被赵均用、孙德崖抓走，他们还要抓你呢，劝他千万别回濠州。朱元璋说：“郭公于我恩厚，有难不救，非义也，何丈夫之为？”他赶到郭子兴家，只有郭子兴的几个妻妾在，郭子兴的儿子怕赵均用、孙德崖，都躲了起来。朱元璋问郭子兴的儿子藏在哪里？几个夫人心存疑虑，闭口不答。朱元璋急了，说：“我岂外人而乃疑我？今来，谋脱公难也！”几个夫人这才道出儿子们的躲藏地方。朱元璋说：“我公素厚彭而薄赵，祸必赵发，此非彭不可解。”第二天，曙色微明，朱元璋陪小张夫人和郭子兴的次子郭天叙、三子郭天爵，一块儿找彭大求救。彭大听明情况，勃然大怒：“我在此，谁敢尔！”他立即呼唤左右亲随，带领队伍去包围孙德崖家。朱元璋回家脱掉长袍，换上盔甲，带着武器，也赶到孙德崖宅前。他们爬上屋顶，揭瓦掀椽，下到屋里，杀死孙德崖的祖父母，在一个暗窖里找到郭子兴。只见郭子兴脖子上套着木枷，双脚系着镣铐，浑身已被打得皮开肉绽。几个人七手八脚打开枷铐，把他背回家里治疗。

赵均用、彭大、彭早住投奔濠州后，脱脱派升任中书左丞的贾鲁与知枢密院事月阔察儿领兵尾随而来。这一年冬天，濠州已被元军紧紧包围起来。大敌当前，濠州城里的几个首领这才丢开嫌怨，共同指挥将土守卫城池。他们凭借城高濠深，粮食充足，顽强抵抗。贾鲁担心元军驻屯坚城之下，时间一长，士卒疲惫，士气低落，决定不惜代价，攻下这座城池。至正十三年（1353）五月，他与月阔察儿亲自临阵督战，下令：“必以今日巳、午时取城池，然后食。”一时金鼓齐鸣，杀声震天。不想刚刚攻到城下，贾鲁忽然感到头晕目眩，天旋地转，从马上摔下来，不久病死。主帅一死，元军士卒溃乱，解围他去。濠州脱离了险境，彭大、赵均用喜不自胜，彭大称鲁淮王，赵均用称永义王，郭子兴和孙德崖等五人仍称元帅，听从他们的指挥。

在元军对濠州合围后，朱元璋曾奉命领奇兵从城中突围而出，攻打萧县、灵璧和虹县。元军撤围后，濠州虽然转危为安，但死伤不少人马，储存的粮食也用光了，急需补充兵员和粮食。朱元璋通过一个老朋友的关系，弄到几引盐，用船载到怀远，换回几十石粮食，交给郭子兴以救燃眉之急。十月，又回到钟离招募士兵。比他小四岁的永年乡人徐达前来应募，与朱元璋“一见语合”，朱元璋把他收入麾下。不到十天，就招募了700多人，朱元璋把他们带回濠州交给郭子兴。郭子兴大喜，提升他为镇抚，并把这700多人交给他统率。从此，朱元璋正式成为一名带兵的小军官。七月，朱元璋带兵再克定远。第二年五月，郭子兴又提升他为总管。