1902年6月，在流放途中逃跑回华沙，再到国外。8月，参加了波兰五国和立陶宛社会民主党在柏林召开的代表会议。会议根据他的倡议决定成立波兰五国和立陶宛社会民主党国外委员会并出版党的机关刊物《红旗报》。捷尔任斯基被选为党的国外委员会委员。

1903年7月当选为波兰—立陶宛王国社会民主党总行委员会成员。积极参加1905至1907年的俄国革命。

1906年为俄国社会民主工党第四次代表大会代表，并作为波兰—立陶宛王国社会民主党代表，参加俄国社会民主工党中央机关报编辑部工作。同年12月被捕。

1907年在俄国社会民主工党第五次代表大会上缺席当选为中央委员，同年5月被保释出狱。1908年4月再次被捕，后被流放到西伯利亚。

1909年11月逃出柏林。1910至1912年在华沙、琴斯托霍瓦等地活动。1911年参加了列宁在巴黎主持召开的国外俄国社会民主工党中央委员会议。1912年9月被捕，囚于华沙城堡。后被判处服苦役多年。1917年2月资产阶级民主革命后获释。

1917年10月在俄国社会民主工党（布）中央委员会扩大会议上当选为党中央领导武装起义的革命军事总部成员，被彼得格勒苏维埃选为革命军事委员会委员，是十月革命武装起义的组织者之一。

十月革命胜利后在第二次全俄工农兵代表苏维埃代表大会上当选为全俄中央执委委员会委员和主席团委员。

1917年12月根据列宁提议，担任全俄肃清反革命和怠工特设委员会主席。

1918年初在签订布列斯特和约问题上持错误立场，接近“左派共产主义者”。

1919年任内务人民委员。