网络暴力识别预警机制的法治建构

　　近日，中央网信办就加强网络暴力治理进行专门部署，要求网站平台认真抓好集中整治，建立健全长效机制，有效防范和解决网络暴力问题。中国互联网络信息中心发布的《第49次中国互联网络发展状况统计报告》显示，截至2021年12月，我国网民规模达10.32亿。网络空间俨然已成为社会关系形成、协调的关键场域。在这一场域发生的网络暴力现象，不仅可能侵犯当事人权利，还直接威胁网络空间社会秩序。鉴于此，探索“网暴”行为的治理路径，具有重要意义。

　　通过识别预警机制实现治理前置

　　网络暴力并非法律概念，一般指在网络空间内发生的，通过网络行为主体的交互行动，致使当事人权利受到侵犯的一系列网络失范行为，主要表现为煽动暴力、侮辱诽谤、丑化形象、披露隐私等。

　　由于网络空间的开放性和匿名性，通常情况下，“网暴”行为证据固定难度大，当事人维权成本高。因此，有必要通过建构网络暴力识别预警机制，强化网民行为识别和舆情发现，及时预警网络暴力，从而降低不法行为发生与损害结果。

　　识别预警机制前置有助于减少过失性“网暴”行为发生。行为人参与“网暴”的主观动机是多元的，有直接故意，如基于流量获利动机恶意侵权；有间接故意，如基于情绪宣泄、娱乐猎奇等心理放纵损害结果发生；有过失情形，如在不实信息误导下，行为人基于社会责任感参与声讨。“网暴”识别预警机制可以通过即时标识网络空间内信息的真实性、合法性，向空间内部释放更充分的信息流，提升行为人行动预期的准确度，引导行为人理性行动，预防过失性“网暴”行为发生。

　　识别预警机制前置有助于减轻“网暴”行为的潜在损害结果。与物理空间内的损害相对静态的特质不同，网络空间内的损害通常是动态、持续的。网络暴力造成的损害不是单向塑造的固定损害，而是随着“网暴”行为参与者及旁观者增多，将持续放大损害结果，且损害扩散不会自然终止。因此，越早识别出“网暴”行为并发出预警，越有可能防止参与者和旁观者持续加入，进而终止“网暴”行为，并阻止扩大损害。此外，建构、完善识别预警机制，有助于通过制度化方式，及时澄清事实，引导网络社会成员理性对待各方声音，在一定程度上修复业已发生的损害。

　　在法治轨道上推进协同共治

　　《互联网信息服务管理办法》确立了网络空间治理的双层责任构造，互联网信息服务提供者和相关职能部门对网站传输信息内容同时负有主体责任。2021年公布的《互联网信息服务管理办法（修订草案征求意见稿）》将该责任扩张到互联网网络接入服务提供者，进一步强化网络空间的协同治理。因此，构建“网暴”识别预警制度需要多方主体共同推进。

　　需明确识别预警的规范标准。网络暴力的认定标准应遵循有关法律法规。在此基础上，有关服务提供者可进一步细化识别预警制度安排，明确“网暴”信息的具体识别标准与责任承担方式，并对经过识别具有“网暴”风险的信息采取标记、提醒、防护、删除、屏蔽等临时措施，对有关责任人作出警告、限制或禁止使用部分或全部功能、直至永久封号等处理决定。

　　需保障识别预警规范的有效实施。一方面，互联网服务提供者可以通过建设“网暴”信息样本库、发展关键词拦截策略、行为识别模型等方式，运用算法技术识别和过滤不良内容，并对相关信息分级预警，促进有关规则在算法辅助下的自动运行，提升规则的实施效率。另一方面，为应对算法实施的不精确性，需充分尊重网络活动参与者的主体性，推动其主动参与网络空间治理。

　　建立“网暴”识别预警的解除机制，完善救济渠道。无论是算法对“网暴”治理规范的自主实施还是行动主体的参与实施，都可能存在误判。因此，“网暴”识别预警不应是终局性的，而应当充分保障用户的救济渠道。在确认信息真实性、合法性后，应当即时解除相关临时性措施，并作出解释说明和合理补偿。相关职能部门也应当依法受理当事人就互联网服务提供者的治理规范以及具体措施发起的投诉、举报甚至诉讼，协同推动“网暴”识别预警机制在法治轨道上运行。

　　通过建构和完善“网暴”识别预警机制这一前置式治理模式，更好地保障人们权利实现。构建“网暴”识别预警机制是为了保障自由网络空间秩序，应始终立足法律，规制违法行为。只有以法律为基础，形成具体的“网暴”治理规则，利用算法技术自主执行能力，并发挥网络空间内行为主体的法治意识与理性精神，才有可能真正形成协同共治的效果。

　　（作者单位：浙江大学光华法学院）