921年冬，共产国际代表马林通过中国共产党人的介绍，在张太雷的陪同下，到桂林会见孙中山先生。从此，打开了孙中山与列宁直接联系的通道，也建立了孙中山与中国共产党的联系。

孙中山与马林在桂林坦诚相见，恳切畅谈达一周之久。通过这次会谈，孙中山先生知晓了苏联革命的情况、革命成功的经验。同时，对列宁的新经济政策特别感兴趣，对马林转达的有关列宁对中国革命的某些建议，如必须联合中国各个反帝反封建革命势力，组成一个包括工人、农民及各个革命阶级共同参加的政党，建立革命军队，设立培养革命军事干部的学校等，都极表赞同。不久，孙中山先生就在一次高级干部会议上提出了“中国革命，以俄为师”的口号。

苏俄为了打破在国际上的孤立局面，曾多次派遣使节到北京，与中国北方政府商谈建立两国关系等事宜。1922年8月12日，欧洲著名的纵横捭阖的外交家越飞(Joffe)到达北京，他玩弄两面策略:一面与北方政府会谈，一面与上海的孙中山通信。越飞曾四次写信致孙，孙中山亦有三封信致越飞。

1923年1月17日，越飞自北京南下，到上海后，即与孙中山开始商谈。当时参加孙、越会谈的还有廖仲恺、陈友仁、宋庆龄、胡汉民、汪精卫、蒋介石等人，李禄超则负责孙、越会谈的记录。在会谈过程中，廖仲恺、宋庆龄、陈友仁等都是三大政策的积极拥护者；胡汉民和汪精卫则一唱一和，表示不赞成。蒋介石因当时内定他搞军事，认为有甜头，表面上也假装拥护，甚至与廖仲恺、陈友仁一齐决定，派自己的儿子到苏联留学。汪精卫后来才见风使舵，改变主意，表示赞成三大政策。

1月26日，孙中山与越飞发表联合宣言。第一节云:“孙逸仙博士以为:共产党组织甚至苏维埃制度，事实上均不能引用于中国，因中国并无使此项共产主义或苏维埃制度可以存在之故。此项见解，越飞君完全同意。”同年1月27日，越飞即离沪乘轮船赴日本，孙中山考虑到廖仲恺通晓英、日两国语言，可以同越飞畅谈一切，于是派廖仲恺同行，与越飞商谈有关事宜。

孙越联合宣言发表及廖仲恺与越飞长谈后，苏俄对广东的援助开始见诸事实。苏联政府应孙中山的请求，任命鲍罗廷为苏联驻广东国民党政府的代表前往中国。1923年10月6日，鲍罗廷(Michael Borodin)自俄到粤，孙中山聘他为顾问，让他协助改组国民党和筹建军校的工作。

在苏联顾问鲍罗廷的帮助下，1923年10月25日，孙中山开始对中国国民党进行大改组:加强组织与党员的训练及纪律，注重宣传及加强群众基础。廖仲恺与胡汉民等九人被派为国民党临时中央执行委员。廖仲恺与邓泽如、孙科为财政委员。不久决定组织临时中央执行委员会上海执行部，廖仲恺到上海召集组织。

鲍罗廷到广东后，对中国共产党员时时保持联络，多加鼓励，要他们积极加强在 国民党内的工作。11月29日，国民党广东支部部长邓泽如等弹劾中共，指责陈独秀的阴谋。

孙中山在考虑“联俄、联共”策略时，曾征询党内主要干部的意见，结果是赞成的少，反对的多。廖仲恺是极力赞成“联俄”的，其理由是:世界各国和中国都不能联络，我们在国际上正缺少朋友；现在俄国既诚心和我们联络，我们便不应该拒绝它的党徒。

蒋介石表面是支持“联俄容共”的，但也有一些顾虑。他赴俄考察归国后，于1924年3月14日自奉化致信廖仲恺，坦率说出了这种顾虑:“以弟观察:俄党殊无诚意可言。即弟对兄言‘俄人之言只有三分可信者’，亦以兄过信俄人，而不能尽扫兄之兴趣也。”

国民党在上海的党员对改组事宜甚多疑问，孙中山曾特派廖仲恺前往上海当面解释。廖仲恺说:“此次之所以必须改组者，本有极重大之原因。……因为做事不能不赖力量，一方虽赖军力，然一方不可不有一种力量，能制服军队之力量即党！吾党情形，目下除少数干部，并无党员！虽亦有力量，然不过一部奋斗之历史而已。此种力量固可张罗于一时，恐日久必劣。”当廖在上海时，鲍罗廷也来到上海，与中共干部会谈，并参加国民党会谈。

国民党与共产党的联合阵线，经过了一年多的酝酿，直到1923年底才正式建立起来。

在联合阵线的初期，发生了不少的波折，主要的情况是:在国民党方面，它虽然说是一个有领袖没有群众，大而无当，空空洞洞的党，但是它有辛亥革命、缔造共和的历史，孙中山之下还有不少的大人物，有国会的议员、议长如张继、谢持、居正、田桐、邹鲁、冯自由之类；在民国初年当过督军省长的如胡汉民、李烈钧、柏文蔚、谭延闿、熊克武、但懋辛及正坐镇云南的唐继尧等；华侨的领袖陈友仁、邓泽如、陈树人等；帮会的上层人物李福林、魏邦平、樊钟秀等，以及搞交易做投机生意的张静江、戴季陶、陈果夫等；还有一些有影响的人如于右任、胡景翼、孙岳、吴稚晖、李石曾、顾孟余、汪精卫等。

就当时的情况说，这些人是士大夫集团，他们在辛亥革命时期几乎都是风云人物，在五四运动以后大多数却是思想落后的人物了。他们差不多都中了资本主义国家宣传的毒，把苏俄和共产党视为洪水猛兽，同这样的一些人来谈“联俄、联共”，就如对牛弹琴，一窍不通。但是孙中山在当时是独具慧眼的人，他不顾一切要推行“联俄、联共、扶助农工”的政策，改组国民党，以俄为师，创造一个新的局面。他在癸丑之役以后，鉴于国民党的暮气很深，不顾黄兴等人的反对，把国民党改组为中华革命党，他领导少数国民党左派继续革命。在陈炯明叛变以后，他理解到国民党的失败，仍然是因为组织不健全、纪律不严明。更因为受了列宁的启示和苏俄革命的影响，所以马林的建议一提出，他就很快地接受了马林的意见。

在决定改组国民党时，谢持、居正、田桐、张继、冯自由等人极力劝阻。孙中山对他们说:“你们愿意跟着我革命的就来，不愿意革命的就走，我不能勉强拉你们来革命，你们也不能勉强我不革命。”他们鉴于孙中山的态度坚决，无法挽回，如不跟孙中山走，也没有另外搞一套的政治本钱，只好同意孙中山的做法，因此就造成了国民党内的“反共”暗潮。

从表面上看，当时帮助孙中山进行国民党改组活动的有胡汉民、汪精卫、许崇智、廖仲恺、陈友仁、邓泽如等。其他如宋庆龄、何香凝是赞成孙中山的主张的，但是她们此时还没有参加实际活动。蒋介石此时还是革命的晚辈，不起什么作用。

事实证明真正襄助孙中山改组国民党，建立国共联合阵线的，只有廖仲恺、陈友仁等少数人而已。其他如伍朝枢、吴稚晖、李石曾、顾孟余以及大小军政等方面的人物，多半是乘机观变，依违两可，或是别有用心。如胡汉民等，一面装出孙中山的股肱心腹的样子，参加国共两党联合阵线的工作，一面暗通右派搞反共反俄的活动，这就是联合阵线建立初期国民党方面的情况。