朱元璋的侄子朱文正率领将士坚守八十五天。至正二十三年（公元1363年）七月，朱元璋统兵二十万，进发洪都，陈友谅获悉后，撤出围军，迎战朱元璋，双方在鄱阳湖展开决战。
鄱阳湖水战，从八月二十九日开始，至十月三日结束，进行了三十六天。朱元璋的军队充分发挥小船灵活的长处，火攻****，最终取胜，陈友谅被乱箭射死。
1364年元旦，朱元璋称吴王，建百官司属，仍以龙凤纪年，以“皇帝圣旨，吴王令旨”的名义发布命令。因1363年张士诚早已自立为吴王，故历史上称张士诚为东吴，朱元璋为西吴。
至正二十四年三月，朱元璋再次到武昌督兵攻城，陈理最终出城投降。在吞并了陈友谅后，朱元璋的下一个目标就是张士诚。
张士诚是泰州（今属江苏大半）人，早年贩卖私盐为业。元末发动盐徒起义，于1354年在高邮称诚王，建国号为周，建元天。1356年，建都平江（今苏州）。消灭陈友谅父子后，朱元璋于至正二十五年十月进攻张士诚，一举攻下通州、兴化、盐城、泰州、高邮、淮安、徐州、宿州、安丰诸州县，将东吴的势力赶出江北地区。
至正二十六年五月，朱元璋发表檄文声讨张士诚。檄文列举了张士诚八大罪状，除了第四款和第八款与西吴有关外，其余的全都是指责张士诚背叛元朝。不看开头和结尾，非常容易使人误以为是元朝的讨伐令。这表明朱元璋已经以顺承天命的王自居，准备继承王朝的正统。
朱元璋的军队攻势迅猛，至正二十六年十一月，杭州、湖州先后投降，平江成为孤城。于是朱元璋以重兵包围平江，发动平江战役。
在围城的同时，朱元璋派廖永忠去滁州接小明王韩林儿到应天来，但在瓜州渡江时悄悄将船底凿漏，小明王沉于江底。接着，朱元璋宣布不再以龙凤纪年，称1367年为吴元年。平江战役开始时，朱元璋筑墙围城，并造有三层的木塔楼，高过城墙，以弓弩、火铳向城内射击，还设襄阳炮日夜轰击。城内一片恐慌，张士诚几次突围都以失败告终。张士诚反复无常，贪图享受，对部下也十分放纵。平江被围困的最后一天，张士诚弟弟张士信在城头督战，仍不忘享乐，坐在银椅上饮酒，左右侍奉的人递桃子给他，结果桃子还没到口，恰好一炮打来，脑袋被打得粉碎。朱元璋曾多次派人劝降，都被张士诚拒绝。张士诚死守平江，粮尽后，便以老鼠、枯草为食；箭尽了，便以屋瓦为弹。
直至正二十七年（公元1367年）九月初八，朱元璋率军攻入平江城，张士诚则展开巷战相抵抗。最后，张士诚被俘，解往应天。朱元璋问话，他不搭理；李善长问他，他则破口谩骂。朱元璋气极，命手下卫士以乱棍打死张士诚，连尸骨都烧成灰。当时张士诚47岁，东吴灭亡。
消灭东吴张士诚后，朱元璋大体上占据了今天的湖北、湖南、河南东部、江西、安徽、江苏和浙江，这些是全国最富庶、人口最稠密的地区。因此，进行大规模南征北伐的时机成熟了。
当时南方的形势是方国珍占据浙东、陈友定据有福建、明玉珍控制着四川，广东和广西则仍处在元朝统治中。在平江战役快结束之时，朱元璋已派参政朱亮祖率兵进攻方国珍，然后又命汤和为征南将军，从宁波进攻方国珍，方国珍于至正二十七年（公元1367年）十二月归降。与此同时，朱元璋与刘基细细商定了北伐计划。此时常遇春提议：直取大都，以其精兵消灭元朝的疲卒，占领大都后，分兵出击，则大功告成。为此，朱元璋不赞成，他认为大都是元朝经营了上百年的都城，防御工事坚固，孤军深入进攻，太过危险，应先取山东，再占河南，折攻潼关，取得东西南三方面的军事要点，然后再攻取大都，必将成功。诸将对此表示赞同。
于是，朱元璋以徐达为征虏大将军，统率全军；以常遇春为副将军，另以参将冯胜、右丞薛显、参将傅友德各领一军，全力北伐。
朱元璋再三申明军纪，告诫出征将士，北伐不是攻城略地，而是推翻蒙元****、解除人民痛苦。随后还发布了由宋濂起草的告北方官吏和人民的檄文，文中提出“驱逐胡虏，恢复中华，立纲陈纪，救济斯民”的口号，这对中原地区的广大汉族人民具有很强的号召力；檄文还表示，对于蒙古人和色目人若愿为新皇朝臣民，则与中原人民一样看待。
北伐军节节胜利，迅速攻下山东诸郡。至正二十八年（公元1368年）四月占领开封，平定河南，同时攻克潼关。八月，攻克元朝首都大都（今北京），元顺帝见孤城难守，于是带着后妃太子慌忙弃城逃走，奔向漠北，统治中原长达九十九年的蒙元被赶出了中原。
在南征北伐不断取得胜利的情况下，至正二十八（公元1368年）正月，40岁的朱元璋告祀天地，于应天南郊登基，建国号大明，改元洪武，以应天为南京。
经过十六年的征战讨伐，朱元璋终于实现了自己的梦想，“驱逐胡虏，恢复中华”，从一个横笛牛背的牧童、小行僧，成为明朝的开国皇帝。
1371年，明军入川，夏主明升暗降，四川平定。1381年，朱元璋命傅友德、沐英、蓝玉进攻云南，次年攻破大理，基成上完成了南方的统一。1387年，冯胜、傅友德、蓝玉奉命进攻辽东元朝残将纳哈出，纳哈出无路可走，只好投降，辽东平定。至此，除漠北草原和新疆等地外，全国已基本上统一。
明朝建立伊始，中华大地经过近二十年战乱的破坏，一片凋敝。对此情形，朱元璋实行了发展生产，与民休息的政策。1368年，朱元璋称帝不久，外地州县官来朝见，朱元璋对他们说：“天下初定，老百姓财力困乏，像刚会飞的鸟，不可拔它的羽毛；如同新栽的树，不可动摇它的根。现在重要的是休养生息”。
1370年，朱元璋接受大臣建议，鼓励开垦荒地，并下令：北方郡县荒芜田地，不限亩数，全部免三年租税。他还采取强制手段，把人多地少地区的农民迁往地广人稀的地区；对于垦荒者，由政府供给耕牛、农具和种子；并规定免税三年，所垦之地归垦荒者所有；还规定，农民有田五至十亩的，必须栽种桑、棉、麻各半亩，有田十亩以上者加倍种植。这些措施大大激发了农民垦荒的积极性。
除了民屯外，明初还有军屯和商屯。军屯由卫所管理，官府提供耕牛和农具。明军士屯守比例是：边地军队三分守城，七分屯田；内地军队二分守城，八分屯田。军粮基本上自给自足。商屯是指商人在边境雇人屯田，就地交粮，省去了贩运费用，获利更丰。商屯的实行，解决了军粮问题，同时也开发了边疆。
为了恢复和发展生产，朱元璋十分重视兴修水利和赈济灾荒。在即位之初，朱元璋就下令，凡是百姓提出有关水利的建议，地方官吏须及时奏报，否则加以处罚。到1395年，全国共开塘堰40987处，疏通河流4162道，成绩卓然。朱元璋出身农民，深知灾荒给农民造成的痛苦，在他即位后，常常减免受灾和受战争影响的地区的农民的赋税，或给以救济。
朱元璋还十分爱惜民力，提倡节俭。他即位后，在应天修建宫室，只求坚固耐用，不求奇巧华丽，还让人在墙上画了许多历史故事，以提醒自己。按惯例，朱元璋使用的车舆、器具等物，应该用黄金装饰，朱元璋下令全部以铜代替。主管的官员报告说用不了很多黄金，朱元璋却说，他不是吝惜这点黄金，而是提倡节俭，自己应作为典范。在朱元璋积极措施的推动下，农民生产热忱高涨。明初农业发展迅速，元末农村的残破景象得以改观。农业生产的恢复发展，促进明代手工业和商业的发展。朱元璋的休养生息政策巩固了新王朝的统治，稳定了农民生活，促进了生产的发展。
明初，官僚机构基本上沿袭了元朝，朱元璋逐渐认识到其中的弊病，于是进行了改革。
首先是废除行省制。1376年，朱元璋宣布废除行中书省，设立承宣布政使司、都指挥使司和提刑按察使司，分别担负行中书省的职责，三者分立又互相牵制，防止了地方权力过重。
在军事上，朱元璋废除了管理全国军事的大都督府，将其分为中、左、前、后、右五军都督府，并和兵部互相牵制。兵部有权颁发命令，但是不直接统帅军队，都督府掌管军队的管理和训练，但是没有调遣军队的权力。这样，军权便集于皇帝之手。
在中央机构改革的重点是废除丞相制。明初中书省负责处理天下政务，地位最高。其长官为左、右丞相，位高权重，丞相极易与皇帝发生矛盾，明朝时以胡惟庸任相后最甚。
胡惟庸是凤阳定远人，1373年由右丞相升任左丞相。胡门生故吏遍于朝野，形成一个势力集团，威胁皇权。1378年，朱元璋对中书省采取行动。一天，胡惟庸的儿子骑马在大街上横冲直撞，结果跌落马下，被一辆过路的马车压了，胡惟庸将马夫抓住，随即杀死。朱元璋十分生气。十一月又发生了占城贡使事件。占城贡使到南京进贡，把象、马赶到皇城门口，被守门的太监发现，报与朱元璋，朱元璋大怒，命令将左丞相胡惟庸和右丞相汪广洋抓进监狱。但是，两丞相不愿承担罪责，便推说接待贡使是礼部的职责，于是，朱元璋便把礼部官员也全部关了起来。
两相入狱，御史们理解了皇上的意图，便群起攻击胡惟庸专权结党。于是，1380年，朱元璋以擅权枉法的罪名处死了胡惟庸和有关的官员，同时宣布废除中书省，以后不再设丞相。
朱元璋以专权枉法之罪杀了胡惟庸后，胡案就成为他打击异己的武器，以致受牵连而被杀者达三万多人，最后太师韩国公李善长也受牵连，77岁的李善长全家被杀。
接着，朱元璋又于1393年杀掉功臣蓝玉。蓝玉是明朝开国大将，被朱元璋封为凉国公。1391年，四川建昌发生叛乱，朱元璋命蓝玉讨伐，临行前，朱元璋面授机宜，命蓝玉手下将领退下，连说三次，竟无一人动身，然而蓝玉一挥手，他们却立刻没了身影。这使朱元璋下决心要除掉蓝玉。
1392年的一天，早朝快结束时，锦衣卫指挥使参奏蓝玉谋反，朱元璋随即令人将其拿下，并由吏部审讯。当吏部尚书詹徽令蓝玉招出同党时，蓝玉大呼：“詹徽就是我的同党！”话音未落，武士们便把詹徽拿下，审判官们目瞪口呆，不再审了。三天后，朱元璋将蓝玉杀死，尔后，就是大规模的清洗和株连。胡、蓝两案，前后共杀四万人。
对于朱元璋的滥杀，皇太子朱标深表反对，曾进谏说：“陛下诛戮过滥，恐伤和气。”当时朱元璋没有说话。第二天，他故意把长满刺的荆棘放在地上，命太子拣起。朱标怕刺手，没有立刻去拣，于是朱元璋说：“你怕刺不敢拣，我把这些刺去掉，再交给你，难道不好吗？现在我杀的都是对国家有危险的人，除去他们，你才能坐稳江山。”然而朱标却说：“有什么样的皇帝，就会有什么样的臣民。”朱元璋大怒，拿起椅子就扔向太子，朱标只好赶紧逃走。
