巴黎和会中国外交失败的消息，在五月一日传到北京，三日又由各报传出中国外交失败的原因，系因曹汝霖、章宗祥、陆宗舆等与日本秘密订立高徐、济顺两铁路借款协定时同时交换了一个换文，里面表示“欣然同意”日本占领青岛的办法，以致中国代表受此四字的束缚而完全失败。北京人士得悉青岛交涉失败的恶耗，无不愤恨，各校学生更加义愤填膺。四月底，北京各校学生已有“五七”示威游行的决议，并曾通电全国各报馆各法团希望于是日一致举行国耻纪念，协力对外，以保危局。吓得青岛交涉失败后，各校代表即于三日晚在北京大学开紧急会议，有北大学生谢绍敏当场咬破手指写成“还我青岛”四字血书，大家情绪极为愤慨激昂，当即决议提前于四日举行示威游行运动。当晚有些学校没有知道参加会议，四日上午，中等以上学校代表又在堂子胡同法政专门学校开会，决定于是日下午一时半各校学生到天安门广场集合，然后整队出发游行。并规定游行路线由天安门出中华门，先到东交民巷，向美、英、法、意四国使馆陈述青岛必须归还中国的意见，促使他们注意，并电告各该国政府。然后转入崇文门大街，东长安街，赵家楼曹汝霖住宅，将旗帜投入曹宅，表示群众的愤怒。

当天下午一时半，各校学生齐集天安门，计有北京大学，高等师范，工业专门学校，农业专门学校，法政专门学校，医学专门学校，中国大学，朝阳大学，汇文大学，民国大学，警官学校，铁路管理学校，税务学校等共计十三个学校的学生五千多人。学生每人手持一面白旗，旗上写着“废止二十一条”，“拒绝和约签字”，“誓死争回青岛”，“取消军事协定”，“反对强权”，“抵制日货”，“严惩亲日派卖国贼曹汝霖、章宗祥、陆宗舆”，“打倒卖国贼”等标语。学生沿途并散发传单，传单内容大意说，现在日本在巴黎和会要求吞并我国山东的青岛，这就是日本侵略中国的领土，破坏中国的主权，所以我们学界今天排队到公使馆去要求各国维持公理，望全国工商各界一致起来“外争国权，内除国贼”等语。

游行队伍于下午二时出发，到东交民巷西口，有外国雇佣的保卫队把守，不准学生队伍通过。由代表向各国公使陈述请求意见，并要求准学生队伍通过，终以庚子条约特权的束缚，没有允许通过。学生队伍在东交民巷西口外差不多等候了两个钟头，终未得通过使馆区域东交民巷，大家都感到在自己的国家首都，都没有通行的自由，痛恨帝国主义和热爱祖国的心情，更加激愤高涨。

当时大家认识到著名的亲日派卖国贼有三人，一是交通总长曹汝霖，他是以前袁世凯政府的外交次长，同日本公使日置益交涉签订“二十一条”的中国代表；二是驻日公使章宗祥，他是北洋军阀政府出卖胶济铁路经营权和济顺(济南到顺德)、高徐(高密到徐州)两铁路建筑权给日本的经手人；三是币制局总裁陆宗舆，他是一九一五年驻日公使，向日本进行各种借款的经手人。大家对于卖国贼非常痛恨，主张非打倒严加惩办不可。于是游行队伍遂按照原计划经东长安街转往赵家楼曹汝霖住宅，沿途高呼“打倒卖国贼曹汝霖、章宗祥、陆宗舆”等口号。沿街市民，伫立观望，多有拍手表示同情的，足见群众对于爱国运动是同样富有热情的。大约四点半钟的时候，学生大队到了赵家楼曹宅，曹宅早有准备，前后门都紧闭，内有一百多名军警保卫，有五个学生不避危险，由后门旁的窗子扒进去，把门打开，大队学生即一拥而入，全身武装的军警，到处布置岗位，见学生人多势众，也不敢干涉制止，持枪直立，呆若木偶。曹当霖听得学生拥入，即越墙逃出。章宗祥这时也在曹宅，还与日本新闻记者在客厅谈话，被学生发觉，捉住痛打了一顿，若不是日本新闻记者舍身加以维护，在学生盛怒之下，会把他打死。学生找不到曹汝霖，愤怒情绪，难以遏止，所有曹宅室内外摆设器物，尽行打坏，有的竟放起火来烧他的家。大多数学生见遭宅燃烧起来，才纷纷散出。这时军警反动头子步军统领李长泰，警察总监吴炳湘坐着汽车率领大队军警赶来镇压学生，立即下令逮捕少数尚未散出的学生，计共捕去三十二人，其中北大有易克嶷、曹胤虚、许德珩等十九人，高师有熊梦飞等八人，工专有董望翘(云南腾冲人)、李更新(湖南人)二人，其他三人为中国大学及汇文大学校学生。

被捕的学生，当晚即被军警机关讯问，并逐一搜查身体，意在追究放火责任，但三十二人中，并无一人身带火柴。当时在黑暗专制反动统治时期，学生不敢承认放火，恐贻反动派以口实，伪称系曹宅自行放火，借此驱散群众。军警机关既未在学生身上搜出火柴，也不敢贸然加以学生放火之罪。

当时北洋军阀政府中实力派有两系:一为以段祺瑞为首的安福系，又称皖系。是亲日派；一为以冯国璋为首的直系，是亲美派。安福系军阀认为学生五四运动，是直系军阀和其他政客(指研究系林长民等)指使的，目的在排挤安福系退出政治舞台。实则这次学生破天荒的运动，纯系赤忱的爱国心所驱使，绝无任何派系所能利用。安福系军阀主张以严厉办法镇压学生运动，解散北京大学，免去蔡元培校长职务，其中尤以徐树铮最为反动，坚持以高压手段对待学生。而直系军阀冯国璋等，主张对学生采取缓和办法，释放被捕学生，令各校长严加管束。各派系军阀主张虽不同，而本质则完全一样，都是要消灭学生的爱国运动。轰轰烈烈空前的五四运动，立刻传遍了全国和全世界。北京学生即于四日晚把军警捕去的学生将被反动政府加以非法处理向全国发出呼吁支援，全国人民都一致同情学生的爱国运动。北京学生由五日起，即采取各校一律罢课行动，要求反动政府释放被捕同学。又由于北京学生曾通电全国号召于“五七”一致举行国耻纪念会，反动政府深恐又激成事变，因此也不敢采取安福系严厉镇压学生的办法。