胡惟庸，凤阳定远人，至正十五年（1355年），朱元璋攻下和州后归附义军，授元军府奏差，寻转宣使。此后，任宁国县主簿，进知县。当时太师李善长操纵政权，胡惟庸以黄金二百两贿赂他，从此青云直上，先迁吉安通判；至正二十四年（1364年），设湖广行省，又被提升为湖广佥事。朱元璋称吴王，在李善长引荐下，胡惟庸被召为太常少卿，当了没多久又升为太常寺卿。明朝建立后，更是春风得意，几年后便位极人臣。洪武三年，入中书省，拜中书参知政事。洪武六年（1373年）1月，右丞相汪广洋因“无所建白”出迁广东参政，从这时到同年7月，“帝难其人，久不置相”，胡惟庸以中书左丞“独尊省事”数月，7月代替汪广洋升为右丞相。洪武十年9月，又迁左丞相，右丞相仍由汪广洋担任。从洪武六年汪广洋第一次罢相后，中书省的大权实际上由胡惟庸一人独揽。到洪武十三年（1380年）1月为止，他做了长达七年的丞相。
徐达、刘伯温极为鄙视胡惟庸的人品，徐达“深疾其奸”，曾多次“从容言于帝”。为此，胡惟庸曾十分想和徐达搞好关系，但徐达憎恶他的为人，根本不答理他。胡惟庸又变换手法，企图贿赂徐家守门人福寿来加害徐达，但被福寿揭发。当徐达获知此事之后，并没有问罪于他，只是向朱元璋进言，说胡惟庸不具备做丞相的资格。
胡惟庸任相时，淮西集团的政敌杨宪在洪武三年就已被杀掉了，胡惟庸独相数年，汪广洋在洪武十年尽管与他同居相位，但汪为人“宽和自守，居相位默默无可否”，在中书省仅仅是“浮沉守位而已”。因此，除了皇帝以外，胡惟庸觉得刘伯温是对他在政治上唯一构成威胁的人。由于刘伯温曾与朱元璋论相，胡惟庸更是耿耿于怀，伺机报复，这种艰难处境刘伯温也深有感触，隐居青田故里的时候，为了避祸，每日“惟饮酒弈棋，口不言功”。即使韬晦如此，还是防不胜防，最终被胡惟庸陷害致死。
刘伯温死后，胡惟庸也没有放过他的长子刘琏。洪武十年，刘琏做江西参政，朱元璋很赏识他，“常欲大用之”，但后来被胡惟庸的党羽逼得坠井而死。
可以说，胡惟庸的起家同李善长关联很大。他出任丞相后，又“以兄女妻其从子佑”，这样两家又有了亲戚关系，往来越发密切。李善长是淮西集团的领袖，位列勋臣第一，虽然在洪武四年（1371年）致仕，但李家的权势很大。朱元璋又在洪武九年（1376年）把女儿临安公主许给了李善长的儿子李琪，李家遂为皇亲。朱元璋曾打算立杨宪为相，说：“杨宪可居相位。”杨宪也“数言李善长无大才”。为此胡惟庸对李善长说：“杨宪为相，我等淮人不得为大官矣。”在以李善长为首的淮西集团的迫害下，不久杨宪被判处极刑，罪名是“劾汪广洋不公不法、李善长排陷大臣、放肆为奸”。从杨宪被治死罪之后，朱元璋“以惟庸为才，宠任之。惟庸亦自励，尝以曲谨当上意，宠遇日盛”。在明初“无一日无过之人”的年代，竟能“独相数岁”，胡惟庸做到这一步实属不易，说明他十分受朱元璋赏识，但这种赏识，并非是才干上的赏识，而是朱元璋推行高度集权的君主专制统治所需要的赏识。本来，从人品、学识、才干上来说，丞相这一职，最合适的人选当属刘伯温。朱元璋也曾对刘伯温说：“吾之相，诚无逾先生。”但这也仅仅是说说而已，从明太祖欲将皇权强化到更高的程度来看，显然刘伯温又不是十分适合的。
朱元璋决定罢中书省、废丞相，是在相权和君权的矛盾日益加剧下形成的。胡惟庸赢得了朱元璋的宠信，骄恣渐露，在朝中有恃无恐，尤其是在刘伯温死后，“益无所忌”。自己占据丞相之位多年，掌握生杀大权。他不按正常上奏的途径行事，内宦外宦及各司上奏的文件，都先拿来自己翻阅，对自己有害，就藏起来不予上报。四面八方急于升官的或是以前丢官的文臣武将，争相向其献媚，并以重金贿赂于他，这样一来，丞相的权势炙手可热，恩威震主，对君权威胁极大。朱元璋为此十分不安，他必须考虑政治体制的变革问题而避免大权被人夺取，于是头脑中便开始酝酿“弃中书省，废丞相”的念头。但丞相制度延续了一千多年，废除它不仅需要相当的时间而且要等待时机成熟。于是继争夺相权的激烈倾轧之后，接下来的就是更加残酷的君权与相权的斗争。
其实朱元璋始终打着自己的算盘呢。胡惟庸虽然霸道，但他只不过是自己的工具而已。一方面胡惟庸上台极力打击浙东派，另一方面，作为淮西人，胡惟庸拉拢自己的小圈子，也分裂了淮西派。他朱元璋不是不想杀胡惟庸，只是时机未到而已。
首先进行改革的是地方行政体制。洪武九年（1376年）6月，“改行中书省为承宣布政使司……悉罢行省平章政事左右丞等官，设布政使一员”，又增改了按察使司、都指挥使司，各司对六部和皇帝负责。这样中书省便失去了实权，丞相的权力也因此而被削弱。接着在洪武十一年（1378年）3月，“命奏事毋关白中书省，上于是始疑胡惟庸”。这是两项非同一般的政治手段，丞相的实际行政权力，几乎都被剥夺了，这对胡惟庸来说是危险的信号。对这种日益逼近的威胁，胡惟庸不可能无动于衷，他是非常熟悉朱元璋嗜杀成性的残忍本性的。要么坐以待毙，要么铤而走险，以胡惟庸的阴险狡诈和他在政治上经营多年的政治基础，他自然选择后者。因为不断激化的相权与君权之间的矛盾斗争，对抗是双向的，不可能一方处于完全被动无所作为的状态，否则双方矛盾便不会发展到无法调和的地步，这是事物变化发展的一般规律。据说，当时胡惟庸定远旧宅的井中忽生石笋，高出水面数尺，又有传言说胡家三代祖坟上，夜里有火光照耀如白昼，这被阿谀奉承的一些小人说成是好兆头。
胡惟庸知道后更加坚信是上天在帮他，谋反之心更坚决了。他的家人因殴打官吏，被人上奏，朱元璋大怒，把他的家人杀了，并“切责丞相”，胡惟庸却不谢罪。朱元璋又因中书省办事违慢，多次“诘问所由”，同时开始重新追究刘伯温的死因。胡惟庸对这些感到极为恐惧，于是对其同党说：皇上草菅功勋旧臣，与其坐以待毙，不如先发制人，千万别束手就擒。他暗中结交吉安侯陆仲亨、平凉侯费聚，利用手中的权势和金钱来威胁引诱。陆仲亨因在陕西擅自动用驿站的车马而被怒责，被安排在代县做捕盗。费聚奉命安抚苏州军民，因贪恋酒色，被责往西北招降蒙古残部，无功而返，也被朱元璋切责。现在他们与胡惟庸往来频繁，常在胡家饮酒。
胡惟庸对他们说：“我们做的尽是些违法乱纪之事，一旦东窗事发，该怎么办？”胡惟庸把自己谋反的计划告诉了他们，并让他们在外召集军马，作为外应。又与御史陈宁在中书省“阅天下军马籍”，下令都督毛骧找来卫士刘遇贤和亡命之徒魏文进做心腹。另外，派明州卫指挥使林贤下海勾结日本人，遣元故臣封续致书元嗣君脱忽思帖木儿，以向其臣服作为交换条件请求为其提供兵力援助。
朱元璋明白，打压了浙东党之后，胡惟庸又成功分裂了淮西派，胡惟庸的任务已经完成了。况且，他胡惟庸现在已经成为群僚公敌，不杀不足以平民愤，不杀有可能引起更大的乱子。
刚好此时有人来报告朱元璋，说在大街上发现了一批外国人，盘问之下得知他们竟是占城贡使。他们自称已经来了好几个月，竟然不能见皇上。
朱元璋听了，很是纳闷，自己怎么不知道有占城贡使前来朝拜呢？于是召来礼部尚书盘问。
“皇上，礼部关于占城贡使前来朝拜一事的折子，两月以前已经呈送中书省，可至今仍没有得到批示啊。”礼部尚书答道。
皇上认为此事有损大明国威，一定得查清楚。于是召来胡惟庸对质。
“皇上，臣在两个月前已经批示了这个奏折。可此奏折一直放在中书省，礼部并没派人来取。”胡惟庸说道。
“皇上，按道理这种奏折批示完，中书省应该派人直接送回礼部的。”礼部尚书辩解道。
“废话，中书省每天日理万机，说不定把这件事忘了。你们礼部就不会派人过来看看！”胡惟庸大声说道。
朱元璋很是愤怒。这胡惟庸太放肆了，竟然当着皇上的面训斥一个礼部尚书，私下还不知道有多猖狂！于是，他以玩忽职守、相互推诿等罪名，把胡惟庸和礼部尚书一起打入大牢。
得到胡惟庸入狱的消息，曾经被迫害的和一些见风使舵的人立即向皇上进言诉说胡惟庸的罪行。洪武三年（1380年），胡惟庸被处死，朱元璋借机裁撤了中书省，收回了丞相权。
其实，朱元璋是把胡惟庸案当做一个捕人的巨网，并不收绳。在以后的十余年中，他随心所欲地陆续往里装人。而且，他也明知，胡惟庸案根本构不成死罪。他必须罗织更多的罪名，把此案定成铁案，让他们永世不得翻身。
胡惟庸案一直到洪武二十三年（1390年）才算告一段落，网绳暂时收起。十余年来，粗粗算去，共杀了三万多人。
