1920年5月任西南方面军后勤部长。
1921年1月任全俄中央执委委员会改善儿童生活委员会主席。
1921年3月任改善莫斯科工人生活委员会主席。
1921年4月任交通人民委员、全俄肃反委员会主席和内务人民委员。
1923年9月任苏联人民委员会国家政治保安总局局务委员会主席。
1924年2月任苏联最高国民经济委员会主席。
1924年6月当选为苏联中央执行委员会主席、联共(布)中央政治局侯补委员。
1924至1926年任苏联中央执行委员会委员。
1926年7月20日因心脏病逝世于莫斯科。其著作有《捷尔任斯基选集》、《狱中日记和书信》等。