接着是右丞相汪广洋被杀。朱元璋鉴于李善长权力过大，威胁帝权，于是在撤换李善长后，最初选中了汪广洋接替李善长的相位。汪广洋遇事小心谨慎，又以“廉明持重，善理繁剧”而著称。

洪武六年，胡惟庸进入中书省，与汪广洋共任右丞相。之后，汪广洋以“无所建白”贬为广东参政。但是汪广洋一离相位后，胡惟庸遇事专断与李善长相比有过之无不及。况且李善长还借胡惟庸等人，遥执相权，势力更甚于前。

汪广洋被贬后，当然也不服气，便暗中收集李善长的不法证据，于洪武九年(1376)与御史大夫陈宁，合疏参劾李善长有“大不敬”之罪。这当然正中朱元璋的下怀，于是洪武十年九月，朱元璋先升胡惟庸为左丞相，再调回汪广洋为右丞相，以牵制胡惟庸，改变胡惟庸独相的局面。

然而汪广洋复相后，整日喝酒，并没有起到应有的牵制作用，反而事事调和，公事“惟以他官剖决，不问是非，随而举行”。这令朱元璋大为失望，又把他贬往广南地区。即使这样，仍未能平息朱元璋的怒气，便又追加诏书，下令追到后，即将汪广洋就地处死，洪武十二年十二月汪广洋被贬杀。

由上可知，明初的丞相擅权不行，尸位素餐也不行，放权、抓权均无好下场。朱元璋对于相权的存在实际上已深为反感，他不能容忍相权过大，绝不希望有凌驾于众人之上的权臣存在，废相只是时间问题。

然而胡惟庸的独断专行，使相权与皇权的冲突更为明朗化了。胡惟庸之前，李善长小心谨慎，徐达经常带兵在外，汪广洋只知饮酒吟诗，皇权与相权的矛盾尚不突出。但胡惟庸为相七年，擅权乱政，使得朱元璋感得大权旁落，除了剪除别无选择。

胡惟庸案实际是一个冤案，明初的冤案又何止这一个？

早在洪武十一年三月，为了限制丞相的权力，朱元璋就下令凡奏事不得先“关白”中书省。在此之前，凡是各地送给皇帝的奏章都要关白中书省，就是给皇帝一份，同时也要给中书省丞相送一份。接着，又令六部奏事不得关白中书省，这样就大大削弱了中书省的权力。然而即使这样，也还不能令朱元璋满意。

于是就有了洪武十三年的胡惟庸案，朱元璋接着就宣布裁撤中书省。丞相废除后，其事由六部分理，六部直接对皇帝负责，朱元璋大权独揽。秦、汉以来实行了一千多年的宰相制度从此废除，皇权得到进一步加强。稍后，朱元璋还宣布以后嗣君不许议置丞相，大臣如敢奏请者，处以重刑，并立为祖训。

我们再回头看一下胡惟庸案就可明白，说胡惟庸独断专行确有其事，但谋反其实是子虚乌有，它只不过是朱元璋废丞相的一个借口。胡惟庸被告称谋叛时，证据并不充足，如果深究下去，胡惟庸可能不会被坐成死罪。因此朱元璋才迅速认定谋逆是实，即行杀掉，连告发的涂节也全不放过，只是为了死无对证，并可以借此另做文章。

朱元璋废除宰相制后，仍然能时时刻刻感受到李善长的威胁。李善长为功臣之首，虽已退位，但势力还很大，加之与胡惟庸的姻亲故旧关系，始终令朱元璋耿耿于怀。为了巩固帝业，就必须彻底消除这一隐患，因而胡惟庸案不断升级。明代的心腹大患是“北虏南倭”，于是又为胡惟庸添上了一个“通倭通虏”的罪名，就是说他勾结蒙古和日本，企图谋反。但是据吴晗先生《胡惟庸党案考》，通倭通虏都是“莫须有”的罪名。胡惟庸事件正像一个传说中的故事，时间越长，故事的范围便越扩大。到后来胡惟庸东通日本高丽，西通卜宠吉儿，南通三佛齐，北通沙漠，东西南北诸夷，无不与胡惟庸叛逆案发生关系。朱元璋在杀胡惟庸若干年后又给他加上这些谋逆罪名，是想借胡案兴起大狱来诛杀文武功臣，以防功臣们日后威胁朱姓子孙。平心而论，胡惟庸的被杀完全是咎由自取，但是所谓的“胡党”却未免牵强附会。胡惟庸案实际上成为朱元璋整肃功臣的借口，凡是他认为心怀怨望、行为跋扈的大臣，都被加上“胡党”的罪名，处死抄家，开国功臣李善长也最终被牵连进此案。