洪武三年，因李善长有病，汪广洋被朱元璋擢升为中书省左丞，不久遭中书右丞杨宪弹劾被罢职还乡。
后来杨宪因触犯明太祖朱元璋被杀，汪广洋被诏还京师。洪武十年拜升为右丞相，此时的左丞相是胡惟庸。
汪广洋性格懦弱，面对胡惟庸的独揽大权而毫无作为，朱元璋对此大为不满，多次告诫于他。
洪武十二年，中书省中丞涂节告发胡惟庸投毒害死大臣刘基，说汪广洋参与了此事。朱元璋召汪广洋核实，汪广洋予以否认。朱元璋大怒，责备汪广洋欺瞒结党，将其贬职到广州，途中，朱元璋又命人传旨，将汪广洋诛杀。
接着说胡惟庸。
独相数岁，生杀黜陟，或不奏径行，内外诸司上封事，必先取阅，害己者，辄匿不以闻。四方躁进之徒及功臣武夫失职者，争走其门，馈遗金帛、名马、玩好，不可胜数。
——《明史·奸臣传》
胡惟庸是安徽定远人，明太祖朱元璋的功臣之一。
洪武三年，靠着李善长的关系一路飙升。朱元璋称帝时，任命胡惟庸为中书省参知政事。之后，他又代替汪广洋担任了左丞相一职。
洪武六年正月，右丞相汪广洋被贬职，右丞相一职就此空缺很久，胡惟庸以左丞相的身份独专相府事务，直到这年下半年，朱元璋才又重新起用汪广洋为右丞相。
胡惟庸在任期间专横跋扈，甚至在处死或黜陟某些官员时都不奏请朱元璋，自己就决定了。
这种做法触犯了朱元璋的大忌。
御史中丞刘基曾说过胡惟庸的坏话：“譬之驾，惧其偾辕也（胡惟庸好比一匹劣马，让它来驾车，必然会翻车坏事）。”
后来刘基生病，胡惟庸便趁探病之际投毒暗害了刘基。大将军徐达对胡惟庸的行为甚是痛恨，胡惟庸便诱使徐达的看门人福寿图谋徐达，因福寿予以告发，胡惟庸的奸计未能得逞。
而事实上，朱元璋对于权力制衡的技术用得炉火纯青。
自古以来的“狡兔死，走狗烹”到了明朝建立后仍旧是不可避免的。朱元璋一直想搞掉这些开国大臣，又不想背上骂名，胡惟庸的为所欲为难道朱元璋看不懂？说白了就是以权制权、借刀杀人。
搞死了刘基等人，胡惟庸的作用基本上就到头了。
洪武十三年，胡惟庸的谋反罪行被告发。朱元璋这次怒不可遏，下令诛杀胡惟庸等官员。
胡惟庸被杀后，与其有牵连的谋反案继续蔓延，一直延续到洪武二十三年，所有参与胡惟庸谋反案的人及其家族全部诛杀，前后人数达三万余人。
事后朱元璋还亲自颁布《昭示奸党录》，告诫臣下，切以胡惟庸为鉴。
所以，一不做二不休，借着胡惟庸一案，朱元璋直接废除了丞相官职。朱元璋罢中书省、废丞相的考虑，显然是有一个发展过程的，是随着相权和君权的矛盾不断加剧而形成的。
但丞相制度延续了一千多年，废除它，需要一定的时间和适当的机会。于是朱元璋先是忍着争夺相权的激烈倾轧，之后来了一个大清洗。
整个明朝是造反打下来的，朱元璋的目的是建立一个高度集权的君主专制社会，而以丞相为首的中书省这一行政权力机构造成了很多阻碍。
朱元璋没让刘基当丞相，就说明他根本可以不设丞相，他认为相权会造成对皇权的制约和威胁，而胡惟庸个人因素所起的作用，恰恰将朱元璋废相这一变革的时间提前了。
通过对明初三相，特别是对胡惟庸由受宠到谋逆伏诛过程的了解，可以使我们从一个侧面看到明初君主政治的黑暗。
但是废除宰相的理想很丰满，现实却很骨干。朱元璋从此不仅成为国家元首，同时还是政府首脑，大权独揽。这件事听上去很爽，真让其事必躬亲，军国大事和鸡毛蒜皮的小事都等着皇帝的批示，皇帝就不会觉得舒服了。
据史书记载，从洪武十八年九月十四日至二十一日，八天之内，朱元璋批阅内外诸司奏札共一千六百六十件，处理国事计三千三百九十一件，平均每天要批阅奏札二百多件，处理国事四百多件。
这样一来，皇帝必须是像朱元璋这样特别能干、精力特别旺盛的人才能胜任，直至累死自己。
