其实，马林多半说的是气话。不久，他与陈独秀会晤，便早已将此事置之脑后了。可是，马林的话对于张国焘来说，却如同几只作祟的虫子蓄积于胸，不时膨胀、涌动。不久，他便有宗派活动，以至在党内有“张国焘小组织”之说。他反对和排斥李汉俊、李达等人，说李汉俊“对资产阶级妥协，有改良主义的倾向”，李达是资产阶级的“研究派”。

这一切，陈独秀也多有耳闻。在一次会议上，蔡和森便反映，劳动组合书记部有意绕过中央，有独行其事的倾向。同样的问题，张太雷也有所反映。国共党内合作的问题，本是党内的机密，张国焘却把它捅到劳动组合书记部去了。

于是，马林认定张国焘有“小组织的问题”，并准备在党的会议上通过一个决议。张国焘急了，有事没事的找陈独秀讨说法，希望撤消所谓“小组织问题”的动议。陈独秀拗不过张国焘，在一次党的会议上，他特意提出：“党内没有什么小组织，要有，也只是有错误，以后不准再提什么小组织的问题。”于是，一场不大不小的党内风波，就此暂时平息。

1922年3月，张国焘从莫斯科回到上海。他高兴地告诉陈独秀，在远东各国共产党和革命团体代表大会上，他和国民党代表张秋白，受到列宁的单独接见。他还向陈独秀透露了这样的信息，列宁希望国共两党建立起合作联盟战线。

正是在这个问题上，陈独秀、张国焘与马林有着严重的分歧。马林主张加入国民党，实行党内合作，他们却坚持与国民党建立党外联合战线。由于他们一唱一和，所以，一直到中共二大，马林的党内合作的方式都没有为中国共产党所接受。

马林无可奈何，只得回到莫斯科，寻求共产国际的支持。8月，马林回到上海，立即建议中共中央召开特别会议，专门讨论党内合作问题。他在会上以不容置疑的口气，要求中共中央接受共产国际的决定，与国民党尽早实行党内合作。在共产国际的铁的纪律面前，陈独秀和张国焘表示服从国际的决定。

可是，陈独秀的心境总是忐忑不安，对与国民党的这种“捆绑夫妻”的关系，还是持怀疑态度。一次，在谈到在国民党中建立中共党团组织时，他不无担忧地对张国焘说：“中共如果遵照国民党的意见，取消在国民党内的党团组织，这无异是将我们的组织熔化在国民党内，没有独立性了，这是我们做不到的事。”谈话中，陈独秀甚至以一种推己及人的态度说：“如果我是国民党人，也要反对中共这种党团组织的办法。”

隐居上海

蒋介石发动“四一二”反革命政变后，中共党内形势出现变化。1927年7月23日，共产国际代表罗明纳兹和纽曼在与张国焘、瞿秋白谈话时，宣布中央犯了机会主义错误。于是，党内的反陈独秀活动呈现出发展的势头。陈独秀不得不向中央递交了辞职信。不久，陈独秀在汪原放等陪同下，来到上海过着隐居、自省的生活。