迈向动态调控新模式的网络暴力信息治理机制

近日，国家网信办等四部门联合公布《网络暴力信息治理规定》（以下简称《规定》），坚持“源头防范、防控结合、标本兼治、协同共治”的原则，从一般规定、预防预警、信息和账号处置、保护机制等方面加强网络暴力信息治理。《规定》是我国首部针对网络暴力信息治理的专门规章，标志着网络暴力信息治理机制迈向动态调控新模式，进一步完善打击治理网络暴力的制度体系，夯实清朗网络空间的制度基础。

一、《规定》出台的背景和意义

网络暴力行为近年来引起全社会的高度关注，也是全球网络空间治理面临的共同难题。一方面，网络暴力所涉信息内容存在违法性单独界定层面的困难，另一方面，通过快速聚集和扩散方式产生集中攻击的网络暴力信息，可能对被害人造成严重的侵害后果，但是每一个实施言论侵害的施害者，却很可能因其单独行为仅构成“微量”伤害而难以追责。对于网络暴力侵害如果仅仅停留在事后的民事、刑事等追责机制，则难以治标治本，亦无法有效防范伤害的一再发生。

《规定》的出台，是在总结近年来网络暴力信息治理实践经验的基础上，致力于建构事前事中事后全流程治理机制，从针对信息内容本身的静态管理，转向动态调控内容生态的创新模式。这一动态调控新模式，基于对于网络暴力信息的精准类型化界定，超越单一、局部环节，要求建立全面系统的治理体系，提供清晰细致的治理举措指引，既注重对于网络暴力信息的监测和防范，亦重视对于受害人的保护、救济与赋能，同时强调对网络信息服务提供者，互联网新闻信息服务提供者、网络论坛社区和网络群组的建立者和管理者、网络信息内容多渠道分发服务机构、用户等相关主体以及重点环节、板块的精细治理，既反映并总结了近年来网络暴力信息治理的实践和经验，又对多方主体提出了较高的保护标准，规定了明确的法律责任，力求实现精准、高效的网络暴力信息治理实效，提供了具有中国特色和创新示范的网络暴力信息治理制度模式。

二、重在实效的网络暴力信息治理机制及其特点

《规定》对于网络暴力信息提出的治理要求，具有体系性、全流程、精细化、重赋能等鲜明特点，在明确治理标准、落地治理机制、促成治理实效方面，具备很强的可操作性和落实前景。

体系性：作为网络信息内容治理整体系统的有机组成部分。网络暴力信息的特点可以从内容和规模两个层面来认识。内容层面，对于特定主体具有明显而强烈的攻击性，根据《规定》的界定，既包括具有违法属性的“侮辱谩骂、造谣诽谤、煽动仇恨、威逼胁迫、侵犯隐私”的信息内容，也包括“影响身心健康的指责嘲讽、贬低歧视”等极易带来侵害后果的不良信息内容。规模层面，这些信息内容在“通过网络以文本、图像、音频、视频等形式对个人集中发布”的状态下，相对于偶发的单条或者零散信息，具有明显而强烈的侵害属性。

通过对于网络暴力信息的类型化划分，针对网络暴力信息的治理，可以纳入网络信息内容生态治理的整个体系中，适用《网络信息内容生态治理规定》中分别针对违法和不良信息的治理要求，对于违法信息应当采取禁止传播措施，对于不良信息，则应当予以抵制，不得在重点环节呈现，并防止其扩散传播。

与针对单条违法和不良信息的治理不同，网络暴力信息治理需要关注其动态聚集的态势和后果，因此不能仅仅依靠针对信息内容的静态分析和定性，而需要综合考量信息在数量规模、集中程度、传播趋势方面的因素，进行动态判断并进行治理决策。从静态判断走向动态评估，这是对于我国网络平台信息内容治理经验的有效总结，也是进行生态治理的创新举措。

全流程：构建多主体协同的事前事中事后治理机制。网络暴力信息治理中形成的共识是，需要从事后救济和惩治，转向事前、事中、事后的全流程防范和治理，以最大程度预防严重侵害事件的发生。《规定》的整体框架和逻辑就是围绕网络暴力信息的全流程治理来展开的。

《规定》第三章到第五章分别规定了“预防预警”“信息和账号处置”“保护机制”，对平台提出了全流程治理的整体框架，也列明了全流程治理的具体制度要求。在预防预警环节，要求平台在规则制定、技术模型、账号监测、信用管理等层面进行建设和落实。在信息和账号处置环节，要求平台做好重点领域和环节的针对性管控和处置，另外也对互联网新闻信息服务提供者、网络论坛社区和网络群组的建立者和管理者、公众账号生产运营者、用户、网络信息内容多渠道分发服务机构，都分别提出了防范网络暴力信息的要求，规定了行为后果，抓住了网络暴力信息蔓延的关键节点分别配置和落实责任机制。在保护、救济和事后惩戒环节，要求平台为用户提供保护措施、便捷的取证和投诉举报通道。这些举措都是在我国近年来网络暴力信息防治和监管的创新经验基础之上的总结，探索并开拓了一条颇具中国特色的网络暴力信息防治路径。

精细化：针对重点环节和领域提供细致精准治理指引。《规定》一方面为网络暴力信息治理机制搭建了整体的框架和要求，另一方面也提炼、总结了网络暴力信息的产生蔓延规律，针对网络暴力风险较为高发的重点环节、领域、业务板块等，规定了细致而精准的治理举措，为网络暴力所涉各方主体提供了十分精细化的指引。

业务板块方面，《规定》明确要求对于“跟帖评论信息内容”进行管理，“对以评论、回复、留言、弹幕、点赞等方式制作、复制、发布、传播网络暴力信息的”，应当及时采取处置措施。同时，“网络论坛社区、网络群组”作为重点业务板块也需要加强管理，“禁止用户在版块、词条、超话、群组等环节制作、复制、发布、传播网络暴力信息，禁止以匿名投稿、隔空喊话等方式创建含有网络暴力信息的论坛社区和群组账号。”

除了上述社交属性较强的领域，《规定》也对网络视听节目、网络表演、网络直播和短视频等重点领域进行了规定，要求加强内容审核并及时阻断涉网络暴力信息。对于在网络暴力信息产生和蔓延过程中的关键主体，《规定》也进行了明确，要求其承担相应的主体责任，具体包括互联网新闻信息服务提供者、网络论坛社区和网络群组的建立者和管理者、公众账号生产运营者、用户以及网络信息内容多渠道分发服务机构等。

重赋能：为潜在受害人设置个性化保护和救济工具。网络暴力信息治理中重视为潜在受害人提供自我保护和救济的工具，这一举措是我国网络暴力信息治理实践中非常鲜明的创新实践，重在为受害人赋能的思路，实质性拓宽了网络暴力信息治理的视野，也为更加宽泛的网络空间治理提供了宝贵而有益的参考经验。

在网络暴力信息治理实践中，众多平台都建立了监测模型，为可能受到网络暴力信息侵害的潜在受害人，提供弹屏提示、定向屏蔽、一键防护等个性化功能设置，在实际运行中也切切实实起到了保护和防范的良好效果。对此，《规定》基于创新实践探索，从建立健全网络暴力信息防护功能、完善私信规则、在特定情形下为用户提供网络暴力信息防护指导和保护救助服务、防护措施协助启动机制、保存记录和快捷取证功能、网络暴力信息专门快捷投诉举报入口、未成年人优先特殊保护等方面，对平台需要建立的为受害人赋能的机制，进行了全面而细致的规定，针对实践中平台之间差异化的功能设置，博采众家之长，确立了总体上较高水准的统一标准，为潜在受害人提供了技术上和机制上的保护措施。通过进一步宣传和推广，这些创新举措应当能够使得更加广泛的网络用户从中受益。

三、网络暴力信息治理机制实施落地展望

《规定》出台后，对其构建的网络暴力信息防范和治理机制要求，可以通过展开三个层面的制度建设推进落地，实现针对网络暴力信息的系统、精准治理效果。

首先，建立和完善以平台为主体、各参与方各尽其责的治理机制。《规定》提出的标准和要求，目前在很多互联网平台已有实践探索，但不同平台之间尚有差异，《规定》的落实过程也是平台之间确立起较为统一的保护水准的过程，从而防止网络暴力信息在保护水准不一致的平台之间流动。另一方面，各平台也可以根据各自业务和生态特色，采取灵活动态的具体手段，实现《规定》要求的措施和效果。平台之间也可以探索跨平台的信息共享和协同机制，例如针对涉网络暴力信息的重点账号、主体采取协同限制和治理措施，实现针对网络暴力信息的联防联控。

其次，确立理性科学的责任和监管规则。对于承担全流程动态管理责任的平台，一方面，应当建立专业有效的评估机制，对其事前事中事后采取防范治理措施的情况进行测评和判断，认定其履行相关治理责任的情况，通过常态化监管和专项行动等方式促成规则落地。另一方面，也要确立理性的责任标准，尤其对于特定网络暴力事件的事后判断，要厘清各方主体的责任分层，对于平台已经建立较为完备治理体系，但无法全量处置网络暴力信息的情况，也要给予容错空间，促进平台经济在合理科学的合规标准下健康有序发展。

第三，推动网络暴力信息治理合规监管与司法救济程序的有机衔接。《规定》所建构的各方主体网络暴力信息治理合规要求，不仅给出了精细化治理的明确指引，也为司法实践中为受害方提供救济、追究网络暴力实施和参与方的法律责任，提供了标准和规则参照。关于便捷取证等的规定也为受害人寻求司法救济提供了便利。通过在司法实践中针对网络暴力侵害的民事、刑事个案和类案的积累，也可以反过来促进网络暴力信息治理机制和规则的完善。一方面，《规定》为受害人寻求司法救济提供了重要的制度支持，另一方面，可以探索通过检察公益诉讼等方式，将具有普遍性、代表性、侵害公益的网络暴力信息在司法实践中积极进行类型化探索，在高度动态的网络环境下持续完善网络暴力信息治理的规范和模式。

作者：刘晓春　中国社会科学院大学互联网法治研究中心主任

审核：陈舞阳

编辑：王宇彤

校对：吕燕芳