1918年12月，为及时进行外交决策，总统徐世昌特命在总统府内设立外交委员会，林长民仍因其办事才能，受命为事务长。在随后出现的几个有影响的民间外交活动团体中，林长民也往往担任要职。如1919年2月12日成立的国际联盟同志会，以林为总务干事；四天后宣告诞生的国民外交协会，也推举其任理事。后一组织在五四期间表现突出，把“国民外交”的真义发挥得淋漓尽致。因为按照该会外交干事叶景莘的说法:“外交委员会成立时，我们早已感觉到政府的亲日倾向，就组织了一个国民外交协会，以备与外交委员会互相呼应。”（《巴黎和会期间我国拒签和约运动见闻》）这样一种民间与官方的配合机制，虽则理想化，但在调动广泛的社会力量，以阻止政府作出危害国家利益的决定方面，确实发生了效用。

林长民也充分利用其出入朝野、一身二任的资格，巧妙地以民间外交推动政府外交。并且，在多数场合，他更自觉地定位于民间，代表国民向政府抗争。

1919年4月中旬，报界披露，外交部曾密电出席巴黎和会的中国代表，令其在对日交涉中让步。22日，国民外交协会的职员即面见徐世昌，质询此事。林长民进而提出，鉴于巴黎和会已时日无多，政府应立即指令和会代表，尽快提交我方各项要求。而其提案应以国民外交协会议决的七条纲领为依据，此即由林长民等人2月21日提出，3月底发给驻法公使胡惟德及和会代表的电文中列举的请愿大纲:

（一）赞助国际联盟之实行；（二）撤废势力范围，并订定实行方法；（三）废更一切不平等条约及以威迫利诱或秘密缔结之条约合同及其他国际文件；（四）定期撤去领事裁判权；（五）力争关税自由；（六）取销庚子赔款余额；（七）收回租界地域，改为通商市场。

林氏指陈，此七条既“已承总统批交外交委员会核议，明日该会开会，即可议及此案。倘能将此七问题完全通过，请由政府电饬巴黎专使提出，实为一般国民共同希望者也”。面对林氏所代表的国民公议，徐氏亦不得不答应“此节自然照办”。

正由于林长民具有这样的优势，以私人身份出访欧洲的梁启超，在党派考虑之外，也可方便地择定其为通报巴黎和会消息的接收人，以便上传下达，影响政府与舆论。

当时进步党在北京地区握有两家重要的报纸，一为其机关报《国民公报》，一即在知识界颇具号召力的《晨报》。以林长民在党内的资历，加以主持《晨报》编务的刘道铿为林之同乡福州人，因而，其与《晨报》的关系自更为密切。4月7日，林氏在该报连载《铁路统一问题》的长文，开宗明义便揭出问题的核心:“铁路建筑权及其投资，即为势力范围之表征。”而其中“根据条约者，为政治性质之路”，此即“以铁路所及为占据领土之变形”，“凡此政治性质铁路经过之地，几即为他国领土之延长”。因此，林氏坚决要求废除不平等条约，收回中国路权，统一由交通部管理。当时林长民等人所力持的“统一铁路政策虽非只为日本而发，而实以日本为主要对象”，叶景莘称其“实是当时抗日运动的一个方面”，与以后的五四事件相关联（《五四运动何以爆发于民八之五月四日？》），确有道理。

4月25日，《晨报》披露了来自巴黎的消息，山东将不直接交还中国，而暂由英、法、美、意、日五国共管，以及日与除美之外的三国订有密约，英、法、意将不反对日本继承德国在山东权益的要求；5月1日，该报又发表《山东问题之警报》加以证实，并疾呼:“国内若再无一致之精神以对外，则此次外交之失败，即足以亡国云。”在此恶报频传、形势迫人之际，5月2日，《晨报》集中发布了代表国民外交的声音。

此日的“紧要新闻”中，既有巴黎代表报告“和会难以坚执公理”的电文，国民外交协会4月30日收到的梁启超要求拒绝签字的24日来电，也有该会5月1日分致美、法、英、意四国代表及中国和会代表的电报，申诉中国民众的意志。而置于社论位置的，则是林长民的署名文章《外交警报敬告国民》。此文乃因其所接获的梁电而引发，其中最震动人心的是如下一段文字:

呜乎！此非我举国之人所奔走呼号求恢复国权，主张应请德国直接交还我国，日本无承继德国掠夺所得之权利者耶？我政府、我专使非代表我举国人民之意见，以定议于内、折冲于外者耶？今果至此，则胶洲亡矣！山东亡矣！国不国矣！

文章最后表示:“国亡无日，愿合我四万万众誓死图之！”林文慷慨悲壮，语调激昂，虽仅300余字，其效力却不啻一枚重磅炸弹。

当日，外交委员会紧急开会，议决拒签和约，拟就电稿，由该会委员长汪大燮与事务长林长民亲送徐世昌，转国务院拍发给中国代表团。而总理钱能训却另具密电，命令首席代表陆徵祥签约。林长民有一同乡在国务院电报处工作，当晚即将此情告知林氏。5月3日清晨，林到外交委员会报告，因此直接导致了五四学生大游行。3日下午4时，国民外交协会召开全体职员会，林长民、熊希龄、王宠惠等出席，作出四项决议: