国共合作伊始，陈独秀几乎把全部精力用于发展国民党本身的工作。可是不久，他便发现，共产党不应该没有任何条件和限制地支持国民党，否则，我们就是在帮助我们的敌人，为自己收买反对派。从此萌生了退出国民党的念头。

1924年7月陈独秀写信给维经斯基，首次流露出准备与国民党分离的迹象。1925年9、10月间，中共中央在北京召开第二次扩大执委会，陈独秀正式提议中共应该及时准备退出国民党而保持自己的政治面目，但遭到共产国际代表和其他中央委员的强烈反对，其主张被否决。中山舰事件后，国共合作面临着严重危机，陈独秀在中共中央第三次扩大会议上，建议将“党内合作”改为“党外联盟”或另组第三党以代替国民党，又遭到莫斯科的严厉批评，被斥责为“错误的倾向”。随后，共产国际派维经斯基来上海纠正陈独秀的行为。1926年7月中共中央召开全会，陈独秀和彭述之提出中共党员退出国民党的决议案，但在共产国际的压力下，仍未予通过。随后，共产国际执委会第七次扩大全会批评共产党人退出国民党的倾向，迫使陈独秀在中共五大会上违心地承认提出准备退出国民党的策略是“不正确的”，检讨自己“在这个问题上犯了错误”。不过，1927年5月马日事变后，陈独秀又两次在政治局会议上提议要求退出国民党，更激起共产国际的强烈不满。

实行“党内合作”是中共根据共产国际的建议在当时条件下的一种可行的策略和有益的尝试。不如此，便不能同国民党建立联合战线，以推动国民革命和共产党自身的发展。问题是，采取这种方式从一开始就束缚了共产党人的手脚，使之经常遇到两党相互关系问题的困扰，始终处于理论与实践之间的“两难”选择。因为中共既要保持和巩固同国民党的联合战线；又要妥善处理政权组织、军队武装、土地问题和工农运动等各种矛盾，坚持共产党独立的政治面貌。因此客观上造成陈独秀“要么这样，要么那样”的犹豫和动摇。用陈独秀的话说，要么留在国民党内，同国民党保持联合战线，牺牲无产阶级的利益，当国民党的尾巴，那就谈不上共产党的独立性；要么干脆退出国民党。陈独秀虽多次建议退出国民党，但都因自己“认识不彻底，主张不坚决，动摇不定”，“未能坚持我的意见”而落空。其实，在联共(布)、共产国际的控制下，如果陈独秀真的能“主张坚决”，后果又会怎么样呢?恐怕总书记的座椅早就让位他人了。

陈独秀主张退出国民党，其本意是想保持共产党的独立性，摆脱国民党的束缚。在大革命日渐危机的形势下，这并非一种不可取的选择。但他的主张同共产国际的意愿背道而驰，因为共产国际始终承认国民党是民族民主革命的主体和大革命的领导者，要求共产党必须屈从于国民党。在共产国际看来，退出国民党等于把革命领导权让给国民党，主动放弃阵地，是右倾机会主义错误。直到汪精卫集团公开反动，国共合作已经破裂，共产国际还命令中共“退出国民政府而不退出国民党”。这正是陈独秀主张退出国民党屡屡受阻的真实原因，而陈独秀辞去总书记职务，也恰恰是与这个问题有关。正如他后来所说：“国际一面要我们执行自己的政策，一面又不许我们退出国民党，实在没有出路，我实在不能继续工作。”