自从刘福通死后，朱元璋把小明王接到滁州，名义上还接受小明王的领导。到了这时候，他做皇帝的思想膨胀起来，觉得留着小明王对他是个障碍。公元1366年，他用船把小明王接到应天，趁小明王在瓜步（今江苏六合东南）过江的时候，派人暗暗凿沉了船，把小明王淹死。
第二年，朱元璋消灭了张士诚割据势力，接着，命令徐达为征虏大将军，常遇春为副将军，率领二十五万大军北伐。过了两个月，徐达的军队旗开得胜，占领了山东。公元1368年正月，朱元璋在应天即位称皇帝，国号叫明建元“洪武”。他就是明太祖。
明军乘胜进军，元兵节节败退。这年八月，徐达率领大军直捣大都，元顺帝逃往上都。统治中国九十七年的元王朝终于被推翻。
至此，朱元璋统一了中国。
创业容易守业难。朱元璋把应天府改称南京。立其结发妻子马妃为皇后，长子朱标为皇太子。当年朱元璋41岁。当上皇帝后，朱元璋就想如何才能让他的子孙永远当皇帝，让朱家皇朝，传之千秋万世。
他的第一个办法是把儿子封王。朱元璋的后妃们一共给他生了26个儿子，16个女儿。其中长子朱标封为皇太子，还有一个皇子朱楠，中途夭折，其余24个皇子，全都封为亲王（也叫藩王），让他们的封地遍及全国，去主宰那里的一切。比如他将二儿子朱樉封到西安（今陕西西安），这里是古代秦国，朱樉便被封为秦王。三儿子朱棢封在太原（今山西太原），这里曾是古晋国，便封为晋王。四子朱棣封在北平（即元大都），称为燕王。以此类推，这二十四王就像一个特大的蜘蛛网，把整个中国都笼罩在朱家的势力范围之内。
亲王府内设置官署，由“相国”主持。还有护卫的军队，有着很大的权力，可以控制当地驻军的调动指挥权。不过当中有一条限制，被分封的各亲王不能干预地方的民政，除王府以外，都归各级地方官吏治理。
第二个办法是大封功臣。所谓功臣是指跟随他打天下的文官武将。这些开国元勋多是有才能的人，笼络住他们，就可以保卫着他的政权。这些功臣封公的7人，封侯的28人。当初随朱元璋起兵的二十四将，除已死的外，都得到封侯。比如徐达封为魏国公、常遇春封为鄂国公、李善长韩国公、李文忠曹国公、冯胜宋国公、邓愈卫国公、汤和信国公。
朱元璋别出心裁，设立了一个特务机关“锦衣卫”，随时监视大臣们的行动，向皇帝报告。百密还有一疏，国家那么大，人员又那么多，再加上一些贪官污吏从中挑拨离间，自然会生出事来。而朱元璋随着年纪的增大，性格也发生变化，原先那种坦诚待人的长处不见了，变得刻薄、猜疑、凶残、好杀。特别是他看到太子朱标很像他的母亲马皇后，性情朴实，待人宽厚。他怕太子将来驾驭不了那些功臣，从而威胁朱家的皇位，于是朱元璋狠狠心，决定把一些一意孤行、擅权妄法、行动跋扈，能够影响朱家王朝安全的全部杀掉。
洪武十三年、二十六年，朱元璋两次借丞相胡惟庸和凉国公蓝玉谋反案，杀掉了几万人。死于两案的功臣有李善有、陆仲享、费聚、唐胜宗、张温、曹震、陈桓等人，甚至连元帅徐达也不例外。朱元璋杀红了眼，对自己的亲戚也不客气，他的亲侄子朱文正被他用乱杖打死，外甥李文忠被他派人毒死。“二十四将”中，除花云等少数早期战死的以外，其余的几乎都被他杀死。只有一个汤和，看徐达、李文忠先后被毒死，急忙跑去见朱元璋，主动交出兵权，回家养老，才得以幸免。真是伴君如伴虎，可怜，当年轰轰烈烈的“二十四将”，只有此人得以善终。
逃脱朱元璋毒手的功臣，还有一个刘基（刘伯温），当年给朱元璋出谋划策，功劳不在李善长之下。朱元璋原来也想封他为“公”的，但他坚拒不受，请假回原籍去了。因为他聪慧过人，与朱元璋相识十多年，深知这位朱元璋的为人，所以故意远离皇帝，以图免害。
皇后马氏是个忠厚人，听说朱元璋滥杀元辜，便加以劝阻，但朱元璋不听。马皇后郁郁不乐，后患病拒绝就医，于洪武十五年去世。
太子朱标，性格仁厚，很像他的母亲，眼看父皇暴虐，几次进谏，都被斥退。为了讽谕太子，表明自己的隐衷，朱元璋故意丢一根棘杖在地上，要朱标拿起来，朱标面有难色朱元璋语带双关地说：“你怕刺不拿，我替你把这些刺拔掉，然后再交给你，你不就敢拿了吗？”
朱元璋见朱标过于柔弱，倒是四皇子燕王朱棣聪颖勇武，有些像他自己，他曾打算把太子朱标废掉，立朱棣当太子，跟几个大臣商量，大臣们都认为废长立幼，不合宗法，都不同意。但朱标知道后，明白父皇不喜欢自己，终日惶惧不安，于洪武二十五年因病去世。太子朱标死后，朱元璋依据宗法原则，便立朱标长子朱允炆为帝位继承人。
明太祖是农家出身的，对农民生活多少有点了解。他即位以后，也注意实行休养生息的政策。他告诫地方官员说：“现在天下刚刚安定，百姓财力困乏，好像初飞的鸟，不能拔它的毛；新种的树，不能摇它的根。”他要官员们廉洁守法，不能贪赃枉法，加重人民负担。以后，他又招集流亡农民，开垦荒地，免除三年的劳役和赋税；要各地驻军屯田垦荒，做到粮食自给。他还兴修水利，奖励植棉种麻。所以，明朝初年的农业生产有了很明显的发展。新建立的明王朝统治也巩固下来。
