1943年，汉奸汪精卫访问日本。

陈公博怀着极其矛盾和苦闷的心情在“走”与“不走”之间选择。考虑再三，汪派小集团的私利在他头脑中占了上风。他不能忍受与汪关系中断带来的痛苦和自己在蒋政府中处于受人歧视的难堪境地。他决定随汪离开重庆。

此时，陈公博对投日仍有顾虑，不敢贸然行事，一直与汪处于若即若离的状态。1939年8月，汪精卫在 上海召开伪国民党六大，陈公博不肯出席。1940年初，汪精卫的两位死党高宗武、陶希圣叛汪而去，并且在香港公布汪日密约的草案，给汪精卫致命的一击。这使素以汪派小集团利益为重的陈公博“愤愤不平”，他对汪精卫个人的“前途”表示“莫大的忧虑”，在别人的劝说下，陈公博终于决定叛国投敌。

1940年3月，陈公博到达南京，担任伪中央政治委员会委员、伪立法院长及伪军事委员会政治训练部部长等职。3月30日，汪伪政权“还都”南京，他以伪立法院长身份发表广播讲话说，他们“是要救回四分五裂的国家的，是要救回水深火热的人民的”，跟着他们，“不但可以建设新的近代的中华民国，中日也可以永久和平”。

同年5月，陈公博访问日本，希望日本对“国民政府”大力协助，调整汪日邦交。经过多次会谈，日本表示：对于汪政府的承认，大致放在日汪基本关系条约签字之时。同年11月，日汪基本关系条约正式签订，这个条约是一个地地道道的卖国条约。陈公博不仅主持伪立法院通过了这个条约，而且还接二连三发表讲话，厚颜无耻地称颂该条约使中日两国“以前互相敌对、互相猜疑的时代已经过去了”。他在日本侵略军进攻上海四周年时发表谈话，赞扬日汪基本关系条约的签订标志着“中国的独立自由，不只已经恢复，而且已经确立”，他呼吁国人停止抗日，实现所谓的自由独立和自强。

陈公博参与和策划了汪伪政府的每一项重大决策，并担任了重要职务，成为汪伪政府的二号人物。1940年10月，伪上海特别市市长被刺杀，陈公博兼任伪上海特别市市长，同时还兼任各种高级职务，如“清乡”委员会副委员长等。

1944年3月，汪精卫因病赴日治疗。根据汪的提议，决定在汪治病期间，由陈公博代行伪国民政府主席之职，伪最高国防会议、伪中央政治委员会会议、伪军事委员会常务会议等，也都由陈公博主持。同年11月，汪精卫在日本一命呜呼。