至正十二年（1352年）3月，朱元璋開始了他人生的新征程。他決定投軍濠州，而他“朱元璋”這個名字也是在入軍後改的，意為誅（朱）滅元朝的璋（璋，古代的一種玉器）。
當朱元璋到濠州城下的時候，心中惶然。這時候的濠州還在元兵的包圍中，附近駐紮著軍隊，城牆上紅巾軍嚴加把守，城牆下堆滿尖石、石灰。見此陣勢，朱元璋明白此行不易，投軍也未必順利，但是既然已經來了，就斷了離開的念頭，無論如何都要進到城中。
朱元璋鎮定地走到城門口，立即被守門的士兵攔住盤問。朱元璋隻說自己是來投軍的，守城的官兵見他是個和尚，又是衣衫襤褸的，疑心是元軍派來的奸細，就用繩子把他捆了，押到郭子興帥府進行審問。
郭子興本來就是個喜歡結交英雄好漢的人，聽說有人來投奔，是個和尚，心想可能來投奔的是個英雄也說不定，於是騎馬回帥府看個究竟。眼前的和尚雖然衣服穿得破破爛爛，但卻身材魁梧，濃眉大眼；雖被捆綁起來，卻沒有一絲恐懼之意和沮喪的表情，眉宇之間還透露著一股傲氣。
郭子興一看，十分喜歡，隨後，證明是湯和介紹來的，就更加的放心。他把朱元璋帶回元帥府，留在自己的身邊，當了親兵。
初來乍到的朱元璋認真練習武藝，處事謹慎。本來他就體格健碩，記性好，又識得些字，很快就成為小隊裏的頂尖士兵。而湯和、徐達雖官位在朱元璋之上，但並沒有看不起他，仍以兄弟相稱。所以，朱元璋決定一定要將他們的關係搞好了。
這日，湯和、徐達請朱元璋酒樓相聚。小時候在一起玩，雖然朱元璋年紀較小，但卻因為是孩子王，所以被小夥伴們稱為“大哥”，湯和、徐達他們三人少年時曾結拜為兄弟，同樣尊朱元璋為“大哥”。如今，湯和、徐達兩人平日和士兵們吃酒總坐上座，習慣了，隻記得朱元璋是兄弟，並無多想，自顧坐了上座。
而朱元璋卻一臉正色道：“湯和，你們二人可記得我們曾結拜為兄弟？”
湯和、徐達互相看了一下，有些詫異道：“這個還用說，從未忘記。如今你雖為士兵，但仍是我們的兄弟，快坐下喝酒！”
朱元璋一把拉起湯和道：“既然是兄弟，那我還是大哥，得坐上座。”
湯和麵露尷尬，但也不好說什麼，隻得讓了座。
朱元璋早就考慮過這個問題了，要想還讓他們看重自己，就絕不能退讓，結拜兄弟的私交情是他在軍隊中的保障，也是他上升的基石。但私是私，公是公，私下為兄弟，軍隊中他得照樣尊奉二人為領導。
酒足飯飽之後，三人拉扯著出了酒家。剛至門口，朱元璋立即清醒地說：“請湯千總、徐千總上馬。”
湯和、徐達二人又是一愣：“這是為何？你可是我們的大哥。”
朱元璋正色道：“兄弟是兄弟，可在軍營中，我得聽從千總的吩咐，公私分明。”
湯和徐達兩人聽此言，酒醒了一半，對朱元璋又多了一分敬重。幾年不見，才曉得朱元璋已非兒時的頑童，是如此明理曉事。做小兵的日子，朱元璋勤懇敬業，不忘表現自己。幾次出城探哨，他獻計獻謀，態度沉著，隨機應變，總是立功，很快贏得隊長賞識，也頗受隊員敬重。
漸漸地，郭子興發現朱元璋談吐不凡，對天下形勢很有自己的看法，認為他是個人才。就把他升為親兵九夫長。做九夫長的朱元璋非常稱職，他不像湯和等人嗜酒，也不像其他的小軍官那樣貪財。朱元璋接到任務總是立即執行，辦事果斷利落，得到戰利品，都悉數獻給郭子興，即便得到賞賜，也會公平地分給士兵同享。朱元璋知道這隻是事業的開頭，他得小心謹慎地打好基石。
朱元璋的盡心盡責，聰明能幹，郭子興都看在眼裏，而朱元璋的義氣大方，是郭子興最欣賞的。好幾次議事，郭子興故意找朱元璋商量，見他分析得很有道理，且很有主見，對自己及家人有禮有節，是個有為青年，很快把他當做心腹，軍中大事也樂意和他商量。
郭子興有個好朋友姓馬，在郭子興起兵那年病死。馬公臨死的時候，把他的孤女馬秀英托付給郭子興照顧。郭子興把女孩帶回家裏，交給妻子張夫人撫養，把她當做自己的親生女兒一樣。郭子興一直想給她選個好女婿，這一回，見朱元璋是個人才，就跟張夫人商量，把馬公的女兒嫁給了朱元璋，她就是曆史上有名的賢惠皇後之一——馬秀英。這樣，皇覺寺的小和尚就做了郭元帥的女婿，地位也不同了。在起義軍中，大家都稱他“朱公子”。