捷尔任斯基生命的最后时光是在巨大的矛盾和痛苦中度过的。1926年，加米涅夫和季诺维也夫与斯大林要摊牌了。他不同意加米涅夫和季诺维也夫的观点--农民太富裕了，应当毫不留情地剥夺他们，他不能支持斯大林同志，因为他预见到了危险后果：“那么国家就会产生独裁者，不管他身披怎样的红色羽毛。几乎所有的独裁者，例如墨索里尼和毕苏斯基，过去都是红色的。”

原本观点温和的斯大林，在战胜“左派”加米涅夫和季诺维也夫的2年后，又与“右派”布哈林对决--他坚持的正是两年前斯大林的观点，而斯大林则变成了加米涅夫和季诺维也夫的信徒。斯大林又获得胜利。

捷尔任斯基没有看到这一幕。1926年7月20日，49岁的捷尔任斯基及时地累死在工作岗位上。避免了与布哈林一起成为“右派”被打倒--他的观点远比布哈林反动：因为他甚至说过，要想把粮食收上来，就需要回到旧时代，要把地主请回来……

1937年，捷尔任斯基的全部亲属都因“波兰间谍”案被捕，并且，“他们全都招供了”，他的秘书则被枪决--“波兰间谍”案共有18000人被捕。 “我们仁慈的父亲”斯大林放过了捷尔任斯基。

捷尔任斯基也许该出现在戈尔巴乔夫时代，他曾总结说，对商品生产供应的行政管制越多，商品越短缺，并且需要的管理机构和人员就越多。

捷尔任斯基是KGB领袖中最特殊的一个，他不被列宁喜欢，不被托洛茨基喜欢，也不被斯大林喜欢。而在勃列日涅夫时代到来之前，KGB形成了这样一个光荣传统：后一任总是要逮捕并处决前任，捷尔任斯基是少数没有被枪决或关进监狱的KGB领袖，更不用说，这样一个不依附任何领袖的人，竟平安地死在任上。

1991年，全苏联的捷尔任斯基塑像被拆除，因为他是苏联恐怖时代的象征，人们终于可以理解他的观点，但这纯属多余，因为这个国家紧接着他的塑像一起垮台。