|
法学院
|
|
□ 王立梅
随着网络暴力事件不断进入公共视野，如何依法有效治理网络暴力已成为全社会关注的焦点。从司法案例可以发现，涉网络暴力案件的司法救济非常艰难，甚至是在恶性后果发生后，有关程序才得以启动。如何高效精准地回应数字时代高度复杂的公共问题，在不牺牲治理有效性的前提下实现尽快决策、尽早行动的网络暴力预防化治理，是目前面临的主要问题。
对此，笔者认为应当构建“网络暴力场”的阻断模式，贯彻分级治理理念，以被害人保护为目的，以切断网络信息反馈链条为手段，以平台的预防义务履行为路径。在制度设计上，可引鉴起源于知识产权保护制度的避风港原则，合理有效地构建平台责任，以实现对网络暴力行为的靠前介入、渐进干预、精准阻断。
治理新思路：阻断“网络暴力场”
“场理论”源自传统刑事概念，用以描述主体与客体、主观与客观之间的相互作用。通过塑造“场”，进而影响人。正所谓“上医治未病”，通过调节控制作为行为条件的网络空间诸要素，以期实现对网络暴力行为的及时有效阻断，尽可能减少事件对当事人的伤害，提升治理效率。
首先，对“网络暴力场”的阻断是相对的而非绝对的。该思路是一种面向复杂对象的预防性、精细化治理，其目标并非彻底消除网络暴力，或完全破坏网络暴力的发生条件，而是着眼防止网络表达向网络暴力转化或者网络暴力危害后果的进一步扩大，构建针对不同类型、不同发展阶段、不同行为主体的网络暴力行为分级处置阻断模式，同时在治理实施过程中必须保障舆论监督的正常进行。
其次，阻断“网络暴力场”是当事人保护主义的鲜明体现。从强调“确保当事人不受压迫”的角度理解，需要强化当事人的力量，来抵抗网暴者们可能的“压迫”。这种力量可以是通过法律震慑，也可以是通过技术直接赋予网暴当事人以主动进行事前防御的力量。
再次，阻断“网络暴力场”是企业克服负外部性的必然要求。网络暴力的发生在一定程度上是由于平台企业的经营活动所致，比如平台企业以流量为目的对争议事件的推送等。平台同样有义务消除给外部环境带来的不利影响，事前的技术预防是其可以采取的措施之一，同时也能降低诉讼成本。
最后，阻断“网络暴力场”是防范线上线下关联的最佳路径。在虚实结合的网络空间中，当网暴信息牵涉到线下时，将会给当事人的生活、工作带来极大困扰，历次网暴事件也印证这一危害。“网络暴力场”阻断可以通过技术手段控制线上虚拟空间与线下现实空间的联系，使得网络暴力在呈现空间上虚拟化，最大限度地降低网络暴力对当事人的伤害。
“网络暴力场”阻断模式的展开
“网络暴力场”阻断的预防性治理应当遵循网络暴力阶段性发展的形成机制，衔接技术治理与法律治理，建立事前预防与事中治理模式，保持治理体系的动态发展，有效遏制网络暴力的扩张。
一是应将技术逻辑纳入立法框架，网络行为是虚拟的，但也是客观的。一方面，通过明确行为的客观性强化责任属性。用技术将空间打造成一个风险可预警、行为人可追踪、施暴行为可记录、侵害人可确认、证据可收集的场域，使行为人认识到“网络不是法外之地”，打消其“法不责众”的侥幸心理。另一方面，通过技术手段的客观性强化治理实效。将内容识别预警、网暴识别模型与涉网暴舆情应急响应机制相结合，共同构建有效的网暴预警预防机制。在制止网络暴力方面，自然语言技术应用发展较成熟，如采取敏感词过滤算法等。通过识别模型，能够预测网络暴力发展进程，将舆情浓度监控与分级治理同步。
二是应鼓励倡导网络空间宽容氛围，网络空间有技术性，但也有价值性。网络暴力事件频发表明目前的网络空间社会宽容氛围缺失。在一些网络群体化的环境中，个体容易盲从群体话语，对弱势群体或者异质群体实施欺凌和歧视。对此，平台应营造契合自身特点的社区氛围，抵制唯流量的价值观，培植一旦出现侵犯性评论时会遭到他人抵制的导向。应强化对用户的关怀义务，适时启动平台熔断机制甚至跨平台的熔断机制，对被害人进行终局保护。
“网络暴力场”阻断中的平台责任
整体上看，事后型法律规制叠加“网络暴力场”阻断的预防性治理，从直接治理转向基于平台的间接治理，从单一技术治理转向分层技术治理，有助于实现以低治理成本遏制网络暴力。平台对网络暴力的扩散、爆发发挥着关键“载体”作用。基于平台负有防范网络暴力的作为义务、负有承担社会责任的治理职能、显著的技术优势与数据优势等原因，平台采取技术性预防措施具有充分理据。在此基础上，构建平台责任还需要着重落细两项制度设计。
一是持续落实网络实名制。网络暴力案件中如何确定施暴人的真实身份是首要问题，也是后续司法程序的起点。目前，我国网络安全法、《互联网用户账号名称管理规定》和《互联网用户账号信息管理规定》均对网络实名制作出明确要求，反电信网络诈骗法和《互联网跟帖评论服务管理规定》还作出了真实性核验、用户分级管理等方面要求。具体而言，平台对实名制的落实，应内嵌在业务全流程中进行。从用户增量上，依法收集真实身份信息，并在最小必要原则下做好个人信息保护；从用户存量上，依法开展真实身份动态核验。
二是改良适用避风港原则。除网络服务提供者发起、组织的网络暴力行为外，网络服务提供者并非网络暴力行为人，同时，其也不是网络暴力治理的应然主体，而应当定位为网络监管职能部门的辅助，主要承担协助义务。总体上看，对于网络暴力行为中的侵权行为和不友善行为应优先适用“通知—删除”规则，对于违法犯罪类网络暴力信息或者侵权与不友善行为已具有较大的社会危害性时，则应通过对红旗原则的适用以及自审核义务的设定来实现精准预防。
其一，“通知”方式的设定要满足三项要求。首先是干预反馈的迅捷性。网络暴力往往“起于青萍之末”，介入时点越靠前，阻断效果便越到位、总体阻断成本便更低。平台应提升处理用户干预请求的反馈优先级，优化审核流程、缩短应答周期。其次是功能模块的丰富性。网络用户是自身形象管理、行为影响力管理的“理性人”，平台应将用户合理的差异化需求，融嵌在平台丰富的阻断功能模块当中，将“一键防暴”与“多手段防暴”相结合，积极开发调适业务场景。最后是全周期响应的完整性，为用户在“网络暴力场”滋长的全程随时提起“通知—阻断”提供支撑。
其二，在比例原则下对责任主体及阻断强度作出设计。一方面，平台功能属性与责任承担能力差异极大，如云计算平台无法仅据权利人“通知”即准确定位、接触、查证被控信息，或对某一“网络施暴场”的阻断如需以关停服务器、删除服务器数据等为代价，则显失合理。另一方面，应据情设置渐进式的干预工具，依据从弱到强，可设置向可能侵权人发送修改或删除的劝阻提醒、对涉网暴信息打标提示、压缩信息传播范围或折叠处理，直至删除信息、将发表网暴言论计入用户行为规范性评价、封禁账号等选项。
其三，红旗原则下对平台“中立性”立场的校正。当网络平台充当不法行为人集中宣泄仇恨、组织煽动网络暴力的场所时，如果网络平台仍然恪守所谓平台中立的不干预原则，则显然违反了立法精神和法治原则。
其四，平台对网络暴力信息的自审核义务。一方面，对一些自我管控平台发布内容的网络服务提供者而言，其有责任也有能力控制平台发布的消息内容，因此审核该内容是否构成网络暴力信息应当成为自身义务。另一方面，本身只负有“通知—删除”义务的网络服务提供者若遇到网络暴力信息发布行为，该网络服务提供者对这些网络暴力信息以及相关行为主体所负义务也应提升至自审核义务。
（原文刊载于《政法论坛》2024年第3期）
|
|
|
| “犯罪场”视阈下网络暴力行为阻断模式构建
|
|
|
|
|
|
| （ 2024-05-29 ） 稿件来源： 法治日报法学院 |
|
|
□ 王立梅
随着网络暴力事件不断进入公共视野，如何依法有效治理网络暴力已成为全社会关注的焦点。从司法案例可以发现，涉网络暴力案件的司法救济非常艰难，甚至是在恶性后果发生后，有关程序才得以启动。如何高效精准地回应数字时代高度复杂的公共问题，在不牺牲治理有效性的前提下实现尽快决策、尽早行动的网络暴力预防化治理，是目前面临的主要问题。
对此，笔者认为应当构建“网络暴力场”的阻断模式，贯彻分级治理理念，以被害人保护为目的，以切断网络信息反馈链条为手段，以平台的预防义务履行为路径。在制度设计上，可引鉴起源于知识产权保护制度的避风港原则，合理有效地构建平台责任，以实现对网络暴力行为的靠前介入、渐进干预、精准阻断。
治理新思路：阻断“网络暴力场”
“场理论”源自传统刑事概念，用以描述主体与客体、主观与客观之间的相互作用。通过塑造“场”，进而影响人。正所谓“上医治未病”，通过调节控制作为行为条件的网络空间诸要素，以期实现对网络暴力行为的及时有效阻断，尽可能减少事件对当事人的伤害，提升治理效率。
首先，对“网络暴力场”的阻断是相对的而非绝对的。该思路是一种面向复杂对象的预防性、精细化治理，其目标并非彻底消除网络暴力，或完全破坏网络暴力的发生条件，而是着眼防止网络表达向网络暴力转化或者网络暴力危害后果的进一步扩大，构建针对不同类型、不同发展阶段、不同行为主体的网络暴力行为分级处置阻断模式，同时在治理实施过程中必须保障舆论监督的正常进行。
其次，阻断“网络暴力场”是当事人保护主义的鲜明体现。从强调“确保当事人不受压迫”的角度理解，需要强化当事人的力量，来抵抗网暴者们可能的“压迫”。这种力量可以是通过法律震慑，也可以是通过技术直接赋予网暴当事人以主动进行事前防御的力量。
再次，阻断“网络暴力场”是企业克服负外部性的必然要求。网络暴力的发生在一定程度上是由于平台企业的经营活动所致，比如平台企业以流量为目的对争议事件的推送等。平台同样有义务消除给外部环境带来的不利影响，事前的技术预防是其可以采取的措施之一，同时也能降低诉讼成本。
最后，阻断“网络暴力场”是防范线上线下关联的最佳路径。在虚实结合的网络空间中，当网暴信息牵涉到线下时，将会给当事人的生活、工作带来极大困扰，历次网暴事件也印证这一危害。“网络暴力场”阻断可以通过技术手段控制线上虚拟空间与线下现实空间的联系，使得网络暴力在呈现空间上虚拟化，最大限度地降低网络暴力对当事人的伤害。
“网络暴力场”阻断模式的展开
“网络暴力场”阻断的预防性治理应当遵循网络暴力阶段性发展的形成机制，衔接技术治理与法律治理，建立事前预防与事中治理模式，保持治理体系的动态发展，有效遏制网络暴力的扩张。
一是应将技术逻辑纳入立法框架，网络行为是虚拟的，但也是客观的。一方面，通过明确行为的客观性强化责任属性。用技术将空间打造成一个风险可预警、行为人可追踪、施暴行为可记录、侵害人可确认、证据可收集的场域，使行为人认识到“网络不是法外之地”，打消其“法不责众”的侥幸心理。另一方面，通过技术手段的客观性强化治理实效。将内容识别预警、网暴识别模型与涉网暴舆情应急响应机制相结合，共同构建有效的网暴预警预防机制。在制止网络暴力方面，自然语言技术应用发展较成熟，如采取敏感词过滤算法等。通过识别模型，能够预测网络暴力发展进程，将舆情浓度监控与分级治理同步。
二是应鼓励倡导网络空间宽容氛围，网络空间有技术性，但也有价值性。网络暴力事件频发表明目前的网络空间社会宽容氛围缺失。在一些网络群体化的环境中，个体容易盲从群体话语，对弱势群体或者异质群体实施欺凌和歧视。对此，平台应营造契合自身特点的社区氛围，抵制唯流量的价值观，培植一旦出现侵犯性评论时会遭到他人抵制的导向。应强化对用户的关怀义务，适时启动平台熔断机制甚至跨平台的熔断机制，对被害人进行终局保护。
“网络暴力场”阻断中的平台责任
整体上看，事后型法律规制叠加“网络暴力场”阻断的预防性治理，从直接治理转向基于平台的间接治理，从单一技术治理转向分层技术治理，有助于实现以低治理成本遏制网络暴力。平台对网络暴力的扩散、爆发发挥着关键“载体”作用。基于平台负有防范网络暴力的作为义务、负有承担社会责任的治理职能、显著的技术优势与数据优势等原因，平台采取技术性预防措施具有充分理据。在此基础上，构建平台责任还需要着重落细两项制度设计。
一是持续落实网络实名制。网络暴力案件中如何确定施暴人的真实身份是首要问题，也是后续司法程序的起点。目前，我国网络安全法、《互联网用户账号名称管理规定》和《互联网用户账号信息管理规定》均对网络实名制作出明确要求，反电信网络诈骗法和《互联网跟帖评论服务管理规定》还作出了真实性核验、用户分级管理等方面要求。具体而言，平台对实名制的落实，应内嵌在业务全流程中进行。从用户增量上，依法收集真实身份信息，并在最小必要原则下做好个人信息保护；从用户存量上，依法开展真实身份动态核验。
二是改良适用避风港原则。除网络服务提供者发起、组织的网络暴力行为外，网络服务提供者并非网络暴力行为人，同时，其也不是网络暴力治理的应然主体，而应当定位为网络监管职能部门的辅助，主要承担协助义务。总体上看，对于网络暴力行为中的侵权行为和不友善行为应优先适用“通知—删除”规则，对于违法犯罪类网络暴力信息或者侵权与不友善行为已具有较大的社会危害性时，则应通过对红旗原则的适用以及自审核义务的设定来实现精准预防。
其一，“通知”方式的设定要满足三项要求。首先是干预反馈的迅捷性。网络暴力往往“起于青萍之末”，介入时点越靠前，阻断效果便越到位、总体阻断成本便更低。平台应提升处理用户干预请求的反馈优先级，优化审核流程、缩短应答周期。其次是功能模块的丰富性。网络用户是自身形象管理、行为影响力管理的“理性人”，平台应将用户合理的差异化需求，融嵌在平台丰富的阻断功能模块当中，将“一键防暴”与“多手段防暴”相结合，积极开发调适业务场景。最后是全周期响应的完整性，为用户在“网络暴力场”滋长的全程随时提起“通知—阻断”提供支撑。
其二，在比例原则下对责任主体及阻断强度作出设计。一方面，平台功能属性与责任承担能力差异极大，如云计算平台无法仅据权利人“通知”即准确定位、接触、查证被控信息，或对某一“网络施暴场”的阻断如需以关停服务器、删除服务器数据等为代价，则显失合理。另一方面，应据情设置渐进式的干预工具，依据从弱到强，可设置向可能侵权人发送修改或删除的劝阻提醒、对涉网暴信息打标提示、压缩信息传播范围或折叠处理，直至删除信息、将发表网暴言论计入用户行为规范性评价、封禁账号等选项。
其三，红旗原则下对平台“中立性”立场的校正。当网络平台充当不法行为人集中宣泄仇恨、组织煽动网络暴力的场所时，如果网络平台仍然恪守所谓平台中立的不干预原则，则显然违反了立法精神和法治原则。
其四，平台对网络暴力信息的自审核义务。一方面，对一些自我管控平台发布内容的网络服务提供者而言，其有责任也有能力控制平台发布的消息内容，因此审核该内容是否构成网络暴力信息应当成为自身义务。另一方面，本身只负有“通知—删除”义务的网络服务提供者若遇到网络暴力信息发布行为，该网络服务提供者对这些网络暴力信息以及相关行为主体所负义务也应提升至自审核义务。
（原文刊载于《政法论坛》2024年第3期）
|
|
|
