这时的徐达，已经成为一位刚毅果决、体貌不凡、智勇双全的汉子，少有大志的他，马上就要投身入反元斗争的洪流中了。
1353年5月，围困濠州的元将贾鲁病故，元兵撤回。彭大自称鲁淮王，赵均用自称永义王，郭子兴、孙德崖等5人仍然称节制元帅，朱元璋也依旧做郭子兴的亲兵队长。
这日，朱元璋在幕府（办公室）阅读杜遵道、红巾军刘福通送来的文告，看到张士诚攻占了泰州、高邮，自称诚王，国号大周，建元天祐的消息，心中十分感慨，嗟叹郭元帅，占据濠州一年来，头领不和，竟不能扩展地盘。
朱元璋正暗自嗟叹，忽然有人报告：“汤将军汤和到。”
汤和小朱元璋3岁，是儿时在一起放牛的伙伴，也是写信给朱元璋加入红巾军的引荐人。其人身高7尺，倜傥而多谋，如今已经升为郭子兴部下的将军了。尽管职位比朱元璋高，但是他对放牛时的朱重八“皇帝”仍然毕恭毕敬，格外尊重。朱元璋也与汤和保持友善，两个人经常在一起说些心里话。
朱元璋听到汤和来访，急忙迎入，落座看茶。朱元璋说：“又有一个张士诚称王了。”说着把刘福通送来的文告消息递给汤和看。
汤和看了文告，又瞧瞧左右没人，便凑到朱元璋跟前，小声说：“你我从小在一起，知你并非久居人下之辈。如今不离郭大帅左右，能有多大出息？”
朱元璋闻言，大吃一惊，说：“汤和，你这话是什么意思？”
汤和说：“依小弟愚见，濠州城里的几个头领，都不是能成大器的人，不如自己拉起队伍打天下。”
朱元璋说：“我也有这个想法，要想成大事，只恨没有死党，一人孤掌难鸣。”
汤和说：“这好办，你奏请郭元帅，回老家去招兵，就说扩充队伍，把小时候你封的那些文官武将都召来，大伙儿肯定像过去一样，听你发号施令，说不定将来你当上真皇帝，我们真的都成了文臣武将呢！”
朱元璋闻言大喜，第二天便奏请郭子兴，自回钟离乡，竖起了红巾军的招兵大旗。
在痛苦中煎熬的乡亲们，听说当年的朱重八，如今成了红巾军的头目，还有了官名，叫朱元璋，纷纷前来登记报名，十分踊跃。周德兴、郭兴、郭英、张龙、张温、张兴、顾时、陈德、丁志、唐胜宗、吴良、吴祯、费聚、唐铎、陆仲亨、郑遇春、曹震、张翼、丁德兴、孙兴祖、陈桓、孙恪、谢成、李新、何福、邵荣、耿君用、耿炳文父子、李梦庚、郁新、郭景祥、胡泉、詹永亨等人不仅自己投效朱元璋，还四处宣传，召集亲朋好友都来效力。就这样，不到10天，朱元璋便招募了近700名淮西子弟兵。这些人与朱元璋是乡亲，论起来都有千丝万缕的关系，他们与朱元璋结成死党，冲锋陷阵、出生入死，立下了汗马功劳。后来朱元璋做了皇帝，这些人大多数都成了开国功臣，在朝中地位显赫。
不满22周岁的徐达就是这时投身红巾军的。朱元璋与徐达虽然是初次见面，但经过一番交谈之后，便惊奇地发现徐达不仅相貌魁梧，而且才智过人，因此当即将其留置麾下。从此，徐达正式加入了如火如荼的武装反元的斗争行列，开始了他的戎马生涯。
徐达“长身伟貌，刚毅英武”，而且性格内向，“居平沉静，不自炫露，凡历履与兵法传授之概，莫得而名”，所以同伍之人既夸赞其健壮威武，又畏惧其高深莫测。史载：“其侪伍，咸壮惮之”即其显证。正因如此，徐达很快便在行伍之中树立起了自己的威信。
自从加入红巾军队伍后，徐达便“委心事太祖（即后之明太祖朱元璋）”，一直追随朱元璋左右，两人形影不离，而且“谋议无不合”。朱元璋有所委派，徐达必定竭尽全力去完成，而且时常向朱元璋进言“王霸之略”，并“密以天命说太祖”，使朱元璋为之心动。
朱元璋带着700子弟兵回到濠州。郭子兴大喜，升朱元璋为镇抚官。一年后，又升为带兵总管，后又由总管升为总兵官。
这日，徐达对朱元璋说：“濠州本为郭元帅所据，但彭大、赵均用却据此称王，纵容部下胡作非为，恐怕迟早要闹出事来。”
朱元璋说：“我也感到总呆在濠州是没有作为的，但又不知该怎么办？”
徐达说：“郭元帅的家在定远，而今定远未平，可用此为借口，请兵攻占定远，然后再图发展。”
朱元璋说：“我若统兵南去，郭元帅一定疑心不放。奈何？”
徐达说：“你只带上能征惯战，有谋略的几十人即可。其余的淮西子弟兵尽留濠州，交郭元帅统领，一可释去郭元帅疑虑，二可作为濠州根基。”
朱元璋听徐达如此一说，点头称是，说：“天德高见，正合我心。”于是，朱元璋禀告郭子兴，请求收复定远，并将所招人马留下，归郭子兴统率，自己只带24人同行，作为照应。郭子兴闻报，欣然应允。
朱元璋大喜，会齐了死党徐达、费聚等24人，辞别郭元帅与马氏，出濠州城，向定远进发。一路上招兵买马，又得了一些新生力量。
这日，朱元璋一行人来到张家堡地界，忽然想起这里有一个驴牌寨，寨主名叫张国良，是郭子兴的旧相识。他手下有3000民兵，曾向濠州借过军粮，何不借此机会收编过来呢？
于是，朱元璋传令：“停止前进，就地安营。”
徐达等人不知，忙问：“如此为何？”
朱元璋说：“天助我3000兵马在此，等我去收来，你等且在这儿等着吧。”
朱元璋说明情况后，只带了费聚一人便直奔驴牌寨去了。
行至寨前，寨门开处，冲出两员战将，挺枪立于马上，截住去路，高喝：“什么人？前来闯我山寨！”
费聚打马向前，拱手说道：“濠州郭元帅麾下总兵官朱元璋，奉元帅之命，特来拜见张寨主。”
来将打量朱元璋与费聚，不像劫寨强人，便留下一人，另一人拨转马头，进寨去了。不一时，转了回来，高喊：“寨主有请朱公子！”
朱元璋带着费聚，随来将进了山寨。张寨主出来相迎，请入客房，分宾主落座。
朱元璋说：“郭元帅与寨主有旧，知寨主孤军守寨，粮草不济，恐受元军围剿，发生不测，特派我等前来通告，请寨主与红巾军共图大业，同舟共济，免得孤立无援，困守待毙。”
张寨主闻言，说：“承蒙郭元帅提携，在下不敢不从命！但不知郭元帅可有何物为凭？”
朱元璋见问，随机应变，解下玉佩递给张寨主，说：“以此为信。”
张寨主收了玉佩，请朱元璋、费聚入席饮宴。酒足饭饱之后，朱元璋请张寨主当机立断，收拾人马弃寨而行。张寨主说：“事出突然，不如在此稍候几天，待我打点善后，再行不迟。”
费聚闻言，对朱元璋耳语，说：“人心叵测，不如我留下，你且回去，再作打算。”于是，朱元璋起身告辞，说：“既然如此，也好。费聚在此恭候寨主就是了，我且先禀元帅复命。”
张寨主见朱元璋执意要走，也不强留，约3日午时濠州相见。
朱元璋目示费聚，小心在意，自己策马回到驻地。
徐达等人急忙询问寨中情况。朱元璋说：“我见张寨主目光闪烁，心存犹疑，一再拖延，恐怕不是守信重诺之人。”
徐达说：“为今之计，也只好等他3日，我们不如在此树起招兵旗，或许再可得一些人马，以备使用。”
朱元璋说：“此议甚好，闲着也是闲着，多招一个人多一分力量。”于是，树旗招兵，不到3天，又得壮士300人。朱元璋大喜，与徐达正谈论驴牌寨之事，忽见费聚狼狈逃回，气喘吁吁地说：“大事不好了。那张寨主违背前言，与定远元军勾搭上了，正准备借机袭击濠州呢，要不是我听到风声，趁夜逃出山寨，恐怕连命都没了。”
朱元璋闻听大怒，拍案而起，骂道：“山贼草寇，小丑可恶！不擒此贼，誓不为人。”说罢，就要点齐人马，前去攻打驴牌寨。
徐达说：“不可鲁莽！驴牌寨人多势众，我等几百人去与他对阵，是以卵击石，要智取才能得胜。”
于是，朱元璋与众人密议，决定利用寨中乏粮，张寨主四处征粮之机，在张家堡征得马匹和几十辆车子，将兵士分别藏在麻袋里，装在车上蒙上席子，假称送粮，直抵驴牌寨。
张寨主闻听有人送粮来，大喜过望，传令大开寨门，迎接粮车入寨。
张寨主正在观望之际，只听一声呐喊，朱元璋等人率士兵破袋而出，张寨主惊愕惶恐，措手不及，被徐达捉住了。
朱元璋手执利刃大喊：“我们是红巾军，愿意留下的欢迎，不愿留下的自便！”
寨中大多数是走投无路的平民百姓，见是红巾军的队伍，都愿留下，参加义军。
朱元璋宣布张寨主罪状，斩首示众，收编了驴牌寨3000人马，就在横涧山下整编操练，徐达为教练。
经过一段时间的观察和了解后，朱元璋认为徐达“动静语默，悉超群英”，“察其志虑材略，皆非众人所及”，对徐达更加欣赏，高兴地说：“此大器也”，并正式委任徐达为镇抚，让他“位诸将上”，充当“帅首”。尽管徐达这时候立下的军功与朱元璋手下一些将领相比还有所不及，但是由于徐达在朱元璋所部官兵之中威望素著，早已为人信服，因此对于朱元璋的上述做法，其部下官兵包括那些军功高出徐达之上的将领们，都心悦诚服。史载：徐达是时“功未及诸将，而位镇抚诸将上，众亦不疑”，便是有力的证明。自此以后，朱元璋凡有征伐，皆以（徐达）代行。徐达不仅取得了朱元璋和他部下官兵的一致信任，而且深得朱元璋倚重，已经成为朱元璋手下不可或缺的一员股肱干将。
不久，徐达又和朱元璋一道率军攻打滁州，击溃当地元朝守军，夺取了滁州城。
徐达和朱元璋攻占滁州的消息传出，朱元璋的侄儿朱文正，姐夫李贞带着外甥保儿一齐奔来投靠。
朱元璋见了又惊又喜，问起家人情况，得知二哥重四、三哥重六都已去世了，不免伤心落泪，幸喜在乱世之中，亲人存者尚能团聚。朱元璋又见定远人沐英，父母双亡，孤苦无依，于是收沐英作义子，改姓朱，又将保儿赐名文忠与朱文正同在身边跟随左右。
至此，朱元璋拥兵3万余众，身边谋士云集，猛将林立，坐镇滁州，成了一方大将，声威远播。
朱元璋攻占滁州时，彭大、赵均用乘势率濠州红巾军攻下了盱眙、泗州。赵均用与孙德崖一伙，孤立彭大，郭子兴失去了依靠，处境十分危险。孙德崖几次找借口要治郭子兴于死地，只怕朱元璋报复，未敢下手。
这日，孙德崖对赵均用说：“朱元璋攻占了滁州，人多势大，恐为后患，不如调他守盱眙，等他一到，将他与郭子兴一网打尽，滁州也归我们所有了。”
赵均用闻言，说：“一箭双雕，坐收渔利，立即派人持令牌调朱元璋来泗州听命。”
朱元璋接了令牌，安置来人，好生款待，与众文官武将商议说：“今日赵均用派人持令牌调我去守盱眙，众人以为如何处置是好？”
徐达说：“这其中定然有诈，不可轻信前往。”
朱元璋说：“奈何郭元帅与家眷皆在濠州，不听调令，唯恐加害。”
李善长说：“明公可以婉言推辞，只说元军不日即来收复滁州，不得抽身。另派一得力人员，持金银珠宝，去濠州买通赵均用左右人等，趁机进言，赵均用必不加害郭元帅及家眷。”
于是朱元璋派费聚进濠州行贿，并通知郭子兴伺机投奔滁州。
赵均用左右的人得到好处，趁机劝赵均用，说：“不可听信小人之言，挑拨是非，自剪羽翼，万一朱元璋率兵火拼，自己的日子也不好过了。不如善待郭子兴，让朱元璋扩占地盘，为自己效力。”
赵均用闻言觉得有理，加上左右的人常在耳边吹风，对郭子兴的态度也转变了，于是令郭子兴率本部人马驻守泗州。
郭子兴趁机说：“不如我去换朱元璋驻守泗州，以巩固后防，保卫濠州。”
赵均用闻言也不疑虑，竟放郭子兴带本部人马去滁州换防。
朱元璋在滁州闻讯大喜，马上集合人马，迎接郭子兴及家眷入城，合家团聚，大摆宴席，互叙离情别绪，人人兴高采烈，个个欢天喜地。
次日，朱元璋召集众将，请郭子兴首席坐了，然后拱手交出兵权，说：“元璋及手下3万兵将愿听命于郭元帅指挥。”
郭子兴大喜，也不推辞，总理滁州军务。
这日，郭子兴与李善长在书房对弈，家将进来报告：“启禀郭元帅，六合县将领李保才派人求见。”
郭子兴闻报不悦，说：“六合是赵均用部下，李保才素与我不合，平素又无来往，见他何益？”
李善长说：“元帅已知，元廷派丞相脱脱亲统百万大兵攻打张士诚所据高邮，中途分兵，由大都督栾麻海率5万人马围攻六合。来人能突围而至，十分不易，必有要事，还是问明来意才好。”
郭子兴说：“也好。带来人书房相见。”
只见那来人，血染战袍，多处受创，步履踉踉跄跄，见了郭子兴，从怀中掏出书信呈上，说：“元军围攻六合，危在旦夕。李将军命下官前来向元帅求救，念六合百姓无辜，火速发兵。”说罢，竟昏过去。
郭子兴忙命人将送信的安置在驿馆救治，然后看了来信，双眉紧蹙，立即传令众将议事。众将听说六合求救，议论纷纷，各抒己见。
有人说：“李保才那厮，仗着赵均用妄自称大，狐假虎威，从不把我们濠州义军放在眼里，让我们救他，休想！”
有人说：“栾麻海率5万元军围攻六合，我滁州3万人马，分兵去救，敌众我寡，岂非以卵击石，若救六合不成，反倒引火烧身，元军攻我，滁州不保了。”
又有人说：“我占一卦，救六合不吉。”
李善长说：“六合与我，同为红巾义军，应弃前嫌，共同抗元。况且六合在我东北，是滁州屏障，六合一旦失守，元军必然进围滁州，所谓唇亡齿寒，救六合就是救自己呀！”
郭子兴听了，左右拿不定主意，踱步沉思。猛抬头，见朱元璋巡哨归来，说：“元璋，你回来得正好。如今栾麻海率5万人马围攻六合，李保才遣人来求救，众人议论不决，你看如何处置？”
朱元璋说：“如今六合危在且夕，元帅若出兵解围，六合将士必然对元帅感恩戴德，归服元帅同心抗元。解六合之围，保滁州无忧，化解两家积怨，使元帅威名远播，此一举三得，请元帅发兵毋疑。”
郭子兴听了，下定决心，出兵救六合，说：“哪位将军愿带兵前往？”
众人听了，面有难色，你看看我，我看看他，半晌，没人答话。
朱元璋见状，朗声说：“水来土屯，兵来将挡。末将愿往。”
郭子兴大喜，问：“需领多少人马？”
朱元璋说：“2000人马足矣。”
郭子兴惊问：“军中无戏言，2000人马如何解六合之围？”
朱元璋说：“兵不在多而在精，将不在广而在良。元帅放心，我自有调度。”
于是，朱元璋传令，点齐2000人马，带着黑先锋花云，胡大海、汤和、耿再成、丁德兴、赵德胜等战将，偃旗息鼓，走小路直奔六合城解围。
元军都督栾麻海围攻六合，六合守将率众拼命抵抗，无奈城防工事全被摧毁，眼见六合城就要陷落。栾麻海亲临城下，指挥破城。
忽然，西南方向一彪人马闯入元军阵中，如天兵突降，猛虎下山一般，势如破竹。
元军正在全力破城，冷不防背后遭到突然袭击，顿时乱了阵脚，不知所措。
朱元璋率2000红巾军以一当十，以十当百，左右冲杀，直奔元军都督栾麻海而来，也不报姓名，挺枪便刺。栾麻海力大无比，横槊架住长枪，正要用力之时，不等栾麻海变招，朱元璋长枪平推直进，正刺中栾麻海咽喉，栾麻海一头栽下马来，倒地身亡。
元兵本来就被这支生力军杀得晕头转向，又眼见都督阵亡，哪还有心思攻城恋战，纷纷弃了马匹，向东北方向溃退。
六合城中李保才见了，指挥兵将从城中杀出，朱元璋下令鸣金收兵。
李保才不解其中道理，问朱元璋：“为何不乘胜追击？”
朱元璋说：“我等出其不意取胜，敌众我寡，穷寇勿追。”
于是，李保才命军士收得元军无数马匹、粮草、军械，大开城门，迎接朱元璋救兵进城，设宴庆功，犒赏援军。李保才下令将所获战利品分赏将士。朱元璋制止说：“不可，元军虽然战败撤围，尚有实力，若引脱脱大兵压境，别说六合，就连滁州也难保了。”
李保才说：“如此，如何是好？”
朱元璋说：“不如打点牛酒，派地方长老送还所缴马匹粮草，就说全是良民，团结护城，以防备盗贼侵扰，情愿供应军需给养，请元军并力攻打高邮，饶恕这一方百姓吧。”
于是，李保才派地方长老归还元军马匹粮草军械，到元军营中说好话求情。
元兵打了败仗，没了军需粮草，正担心上官责备，见长老殷勤求情，又归还所失，就此下台阶，遂引兵奔高邮去了。
元军退兵，六合解围，滁州无忧。郭子兴欢喜至极，在红巾军中声威大震。
徐达自从跟随朱元璋离开濠州后，便千方百计招集兵马，扩充自己的势力，在打了几次胜仗后收获颇丰。但是，在当时天下大乱、群雄四起的形势下，朱元璋和徐达等深知以他们现有的实力想要在抗御元朝官军和与群雄角逐中立于不败之地，希望依然渺茫。他们都对自己的前途忧心如焚，却又备感无助，于是他们只有把希望寄托于神灵，祈求神灵的保佑，听候命运的安排。
在占领滁州后，朱元璋认为“元政不纲，群雄并起，大命应有所属”，遂与徐达一起“祷于天，期三月投附多寡为验。”由于其时天灾人祸连年不断，挣扎在死亡线上的广大劳苦大众的反抗情绪不断高涨，不久之后，朱元璋部下兵马“云集”，因此朱元璋、徐达等反元的决心及与群雄角逐的信心倍增。尔后，徐达又夜以继日地帮助朱元璋“训练精卒”，设法加强对军队训练和管理，提高其战斗力。