陈云抵达上海后才发现，此时的上海已经与以前的情况大不相同。不仅白色恐怖更加严重，而且中共上海中央局接连遭到三次大的破坏，损失十分严重，一时间，难以接上关系。考虑到这种情况，陈云只好先去找老朋友章乃器。章乃器此时已是上海的一位知名人士了。他除了担任浙江实业银行的副总经理和沪江、光华大学的教授外，更重要的是，他以很大精力从事抗日救国运动，被誉为“中国左翼运动的理论家”。章乃器的二弟章郁庵曾任中共上海商务印书馆发行所支部书记、上海店员总工会委员长、党团书记，与陈云共同从事过工运斗争。而已改名为“章秋阳”的章郁庵，以上海证券交易所经纪人的公开身份，继续从事秘密工作。

通过章乃器，陈云很快见到了章秋阳，并与党组织接上了关系。章秋阳立即将陈云转移到法租界霞飞路（今淮海中路）358弄尚贤坊21号自己家中。不料有一天，陈云与一位来找章秋阳的人不期而遇，这个人原来也是商务印书馆的党员，与陈云相识。为了安全起见，章秋阳马上安排陈云更换了住处，移至英租界山西北路老泰安里唐文云（章秋阳爱人）家中。

这时原商务印书馆党员孙诗圃，奉党组织之命从无锡赶到上海，参加掩护陈云在沪的安全工作。之后，陈云又通过章秋阳找到上海临时中央局的同志，了解了上海党组织的情况；还通过潘渭年知道了在港的潘汉年将立即来沪。同时陈云还顺利地找到了瞿秋白的夫人杨之华和何叔衡的女儿何实嗣（因为她俩与共产国际驻上海联络员都有联系），并通过她们很快与共产国际驻上海的联络员取得了联系。

一切准备工作都做好之后，陈云立即着手恢复受到严重破坏的白区地下工作。恰在此时，刚刚与陈云建立联系的上海地下党组织再次遭到敌人的破坏。上海临时中央局、中共江苏省委、共青团中央局大批主要领导被捕入狱，连共产国际远东情报局负责人华尔敦（即劳伦斯）也在上海遭逮捕。形势万分紧急。

当时苏州河上有十几个桥，每个桥上都有国民党特务，而且特务中有一些是变节的叛徒，由于过去为党工作过，他们中有很多人认识陈云，不少地方都挂着陈云的通缉令，上面有陈云的画像。有一次，陈云遇上一位特务，就先声夺人地说道:“我警告你，如果你敢揭发我，共产党饶不了你，早晚有一天要找你算账！”据陈云的子女在《陈云家风》中写道:陈云做了多年地下工作，特别能掌握叛徒的心理。果然那个特务被吓住了，把帽子往下一压，头一扭，就装作没看见过去了。因为当时共产党的专门处决叛徒的中央特科在上海已经“名声大振”，早就令那些叛变的特务闻“名”丧胆了。因为他们知道如果与共产党作对，过不了几天就被教训了。就这样，陈云利用叛徒心虚的弱点，一次次地躲过了被叛徒告密的危险。

不久，从香港返沪的中央红军总政治部宣传部部长兼地方工作部部长潘汉年来到上海与陈云会合，他们对于恢复上海地下党组织的任务均感到压力巨大。这时，中共驻共产国际代表团知道了陈云到了上海，也知道上海白色恐怖严重，认为上海环境十分险恶，在上海十分冒险。于是决定请陈云、潘汉年等人尽快赴莫斯科。由此，1935年8月上旬，陈云与陈潭秋、曾山、杨之华、何实嗣(何叔衡之女)等人在宋庆龄的帮助与巧妙安排下秘密地乘上了一艘苏联货轮。为了避开敌人的搜查，陈云藏在船的底舱里，那里霉腐气味刺鼻，空气稀薄，又不能发出任何响动，直到货轮驶出吴淞口他才走出底舱。陈云一行在海参崴下船后，从那里改乘火车经西伯利亚于9月上旬抵达莫斯科。潘汉年于8月下旬，化名“水番三郎”乘苏联货船“东方号”离开上海，9月下旬抵达莫斯科。

陈云在上海住了大约一个半月，《随军西行见闻录》就是陈云在上海寻找地下党组织关系和等候去苏联的一个多月时间里写下的追述红军长征的文稿。为了便于公开发行与流传，他以“廉臣”为笔名，假托一个被红军俘虏的国民党军医的口吻，向世人第一次生动细致地记述了红军长征的历程，描写了红军领导人同群众的密切联系。

向世界宣传长征的第一人

陈云一行到达莫斯科之际，正是共产国际急切盼望了解中国共产党情况之时，因此，陈云的到来使在莫斯科的中国同志和共产国际执委会的领导人非常兴奋。陈云一行抵达莫斯科后，立即受到了苏联领导人斯大林、莫洛托夫、伏罗希洛夫等人的接见。这时，共产国际第七次代表大会刚闭幕不久。由于共产国际与中央红军已长时间失去联系，陈云便借此机会在10月15日召开的共产国际执委会书记处会议上，向斯大林和共产国际领导人详细地汇报了红军长征和遵义会议的情况。