1926年6月，联共（布）中央全会决定将其开除出中央政治局。共产国际解除其执委会主席职务。

1927年夏与托洛茨基等发表《八十三人政纲》，继续反对中央的方针政策，被开除出中央委员会。

1928年，季诺维也夫向党中央写信，承认了自己的错误，并表示要和托洛茨基划清界线。在此之后，季诺维也夫被恢复了党籍。

1928年至1932年期间，季诺维也夫先在消费合作社中央联社理事会和教育人民委员会中工作。

1932年10月9日，由于季诺维也夫回到党的队伍后继续进行派别活动，苏共中央监察委员会第二次将他开除出党。

1933年5月，季诺维也夫又一次承认自己的错误和反党罪行，于是，季诺维也夫再次被恢复党籍。

1934至1935年，被指控为暗杀基洛夫的指使人，被开除出党，并作为“地下反革命小组的主要组织者和最积极的领导人”被判处有期徒刑十年。

1936年8月25日，以“卖身投靠法西斯间谍机关”等罪名被处决。

1988年6月13日，苏联最高法院撤销了1936年对季诺维也夫的判决，宣布他在法律、国家和人民面前是无罪的。