1930年9月，博古从莫斯科回到上海，被分配到全国总工会任宣传干事，同时在《劳动报》任编辑。1930年10月，潘汉年从“左翼文艺运动委员会”调到中共中央宣传部《红旗日报》任总采访。由于大家都在搞报刊宣传工作，不久博古和潘汉年又重逢了。

1931年是当时处在地下活动的中国共产党最困难的一年。4月，领导中共中央特科工作的顾顺章在武汉被捕叛变，党的机构受到严重破坏。6月，中共中央总书记向忠发也被逮捕叛变。在这种情况下，王明主持中共中央工作后，决定重新加强特科的工作。博古特别推荐潘汉年，认定他是搞保卫和反间谍的能手。

1931年7月上旬的一天，博古找潘汉年谈了中央的想法，潘汉年接受了博古的意见，离开了宣传系统，切断了与左翼文化团体的联系，参加中共中央特科工作。定为联络员进入9月，上海的白色恐怖越加严重，中央机关开始分批转移，前往中央苏区。王明也想离开上海，征得共产国际同意后，准备去莫斯科担任瞿秋白离任回国后一直空缺的共产国际中国代表团团长的职位。临走前他作出了两项安排来控制国内的中央最高领导层，以保证中央总书记的职位，永远给他留着。

第一项是组成临时中央政治局，由博古、张闻天、卢福坦、李竹声、康生、陈云共六人组成。并确定博古、张闻天、卢福坦三人为党委，博古任总负责人。

第二项是王明给博古单独交代：从1931年1月1日起与共产国际的电讯更换新密码，绝对不准用于对苏区的电讯上。如果发生与共产国际的电讯中断，出现特别情况必须报告共产国际时，“我们两人确定一个秘密联络员，只有他来莫斯科，说的话是代表你的意思，我也只相信他的话。”联络员人选特别重要，既要可靠可信，脑子记忆力特别好，还要机敏善于应付种种环境，能穿过敌人布下的特务网线。博古认为只有他的好友潘汉年具有这方面的才能，于是两人商定了联络员为潘汉年。

1933年1月，临时中央迁入中央苏区。潘汉年和特科暂留在上海中央分局工作。

1933年5月14日，左翼文化人丁玲和潘梓年同时被捕。由于潘梓年与潘汉年是同乡，丁玲和潘汉年也有过接触。为了防止意外，中央决定让潘汉年撤出上海，转移到中央苏区工作。派往共产国际遵义会议后，1935年2月上旬，红军在云南威信县水田寨花房子村休整时，博古把潘汉年找来，同他谈了遵义会议的全过程。博古强调：“现在我决定让位给张闻天，并同意会议的决定，重新起用毛泽东。这是为了中央红军的命运，为了中央政治局的团结。第五次反‘围剿’失败，我作为中央军事上掌握最终决定权的人，难辞其责。红军需要一个有独特军事才能的人，来帮助中央掌握军事行动最终决定权的周恩来行使这个权力。”

博古说：“交权不仅是交印章、文件，最重要的是要向共产国际交代，让他们批准张闻天接班。这个工作必须由你作。因为我和王明约定的秘密联络员是你，只有你去了，他才会相信。为预防万一，我和周恩来决定让陈云也去。你们分开走，汇报以你为主，陈去补充。”

两人推心置腹地谈了近四个小时，谈着谈着，两人都流泪了。

1935年2月10日在中央红军转移的同时，潘汉年化装成商贩南下经云南、香港转上海，走海上。同年6月陈云经四川转上海，走陆路。潘汉年于9月中旬到达莫斯科。

此时共产国际“七大”已闭会，王明在“七大”上当选为共产国际执委会委员、主席团委员。他听了两人关于遵义会议的详细报告后，对博古主动交权感到遗憾，对张闻天上台表示接受。1935年10月2日，共产国际执委会批准张闻天为中国共产党临时负责人。受命回国1935年10月3日，王明决定派潘汉年和张浩（原名林育英）两人分别回国，向中共中央传达共产国际“七大”文件和对张闻天的任命。

11月7日，张浩到达陕北。9日，周恩来派人把他接到瓦窑堡。张浩把受派回国传达共产国际“七大”精神，及宣布共产国际对张闻天的任命等，细说了一遍。问及潘汉年是否已到，周说还没有。

这时潘汉年并没有离开莫斯科，而是在共产国际情报局学习“新编密码办法”和“第一套新编密码”。三个月后他已完全背熟。

1936年1月中旬，潘汉年已准备就绪要回国了。这时王明又找他商谈国共合作抗日问题，决定派他以中华苏维埃中央政府外交人民委员会副委员长的身份，去和国民党政府驻苏使馆武官邓文仪接触。要他办完此事后再回国。