1930年1月10日，佐尔格乘日本邮轮抵达上海，他向德国驻沪总领事科伦堡男爵递交了德国外交部新闻司签发的介绍信，信中写道：“理查德·佐尔格博士，家住柏林，现前往上海研究中国的金融和农业问题。敬请协助佐尔格博士收集相关资料。”“研究金融和农业问题？”科伦堡随即似有所悟，“明白了……”他以为佐尔格肩负着柏林方面的特殊使命。于是，科伦堡签发了多封介绍信，将佐尔格介绍给南京国民政府的德国军事顾问、上海德侨首领以及其他国家驻沪外交官。

佐尔格来华的主要任务是搜集有关中国政治、军事和外交方面的情报，深入了解英法美日的对华政策。他在格鲁乌使用的名字是“拉姆扎”，他负责的情报网因此被称为“拉姆扎小组”。该小组成立后，有14名核心成员，包括报务员、译电员、联络员、摄影师、军事顾问等，其中有波兰人、德国人和中国人。很快，佐尔格将情报网络扩展到广州、天津等地。莫斯科每月划拨的经费约为8000英镑，来自欧洲的情报员每人每月经费为200美元，女情报人员150美元，中国人则少一些。

在科伦堡的安排下，佐尔格在南京结识了帮助国民党军训练的德国顾问吉尔贝特上校。几次会面后，两人便成了“朋友”。吉尔贝特向佐尔格透露，德国之所以帮助蒋介石加强战备，不光是帮助中国提供国防实力，更重要的是把中国当成德制武器的试验场，派德国官兵到中国接受实战训练，为德国军队培训骨干。佐尔格曾应吉尔贝特之邀，赴汉口郊区参观一次武器试验。他看到新式德制远程大炮威力无比，天空中战机轰鸣，地面模拟工事被炸得粉碎，佐尔格问：“驾驶飞机的是中国人吗？”吉尔贝特回答：“不，清一色的德国人。”

1931年9月18日深夜，佐尔格的路透社同行打来电话：“你好，理查德！我刚刚收到东京发来的电报。满洲陷入混乱，日本人开始占领东北！”佐尔格对这一消息并不感到突然。他早已估计事态会如此发展，并已预先将有关情报与分析发回莫斯科。当时日本军部有两份计划，其内容均已被莫斯科获知。其中一份为武装入侵中国的计划，另一份为对苏作战计划。如今，第一份计划已开始付诸实施。第二份计划是否会实施？何时实施？这是莫斯科最关心的问题。佐尔格必须尽快找到答案。

到了年底，佐尔格找到了答案：日军的下一步目标仍是中国，而不是苏联。提供这一重要情报的是《朝日新闻》驻上海记者尾崎秀实。尾崎秀实早在大学期间就参加马克思主义小组，到中国后目睹警察镇压上海罢工工人，从而更坚定了自己的信仰。他在《朝日新闻》上发表了许多介绍中国的文章，由于学识渊博，文章一针见血，观点鲜明，没过多久他便成了日本驻华最出色的资深记者之一。

1930年底，通过美国左翼作家史沫特莱的介绍，佐尔格结识了尾崎秀实。由于二人思想观点一致，很快成为至交。1932年新年前夕，尾崎秀实告诉佐尔格：日本将于近期加强对中国其他地区的扩张与渗透，很可能将进攻上海。有关作战计划已经制定。尾崎秀实说，日本的“目的是要迫使其他大国和中国政府满足日本的要求，允许满洲和内蒙实现自治，从而在事实上承认日本对该地区的控制。此外，日本计划夺取中国的商业动脉。进攻上海的主要目的是打垮南京政权。日本需要一个首先维护日本利益的南京政府”。佐尔格及时向莫斯科汇报了这一信息。1932年1月，日军南下进攻上海，事态的发展验证了佐尔格的情报。

1932年下半年，佐尔格被召回莫斯科，提前结束了他的中国之行。别尔津有更重要的任务要他去干。不久，佐尔格被派往日本，重新开始新的情报收集工作。