普通人遭遇“网暴”后会怎么应对？小红书在一项针对疑似遭受高频攻击用户的调研中发现，仅约16%的人选择向平台举报，多数人选择删帖、注销账号或什么都不做。
8月31日，记者从小红书了解到，平台宣布升级防网暴工具“小红盾”——系统将主动识别疑似受害者并发出提醒，引导用户一键开启保护。小红书网暴治理相关负责人表示，普通人面对网暴可能更加手足无措，平台需要主动往前走一步。
据悉，“小红盾”是小红书2023年上线的防网暴工具，经过升级，“小红盾”已经具备主动识别、一键防护、违规处置、心理与法律援助等多项功能。
“我发了在街上遇到留学生的一段视频，评论区涌进来好多人，用各种理由骂人。吓得我把内容全清空了。”一位广州网友分享了一次遭遇网暴的经历，并表示后来在网上发内容都小心谨慎。平台数据显示，普通人遭遇密集攻击时，仅约16%的人选择向平台举报，约30%的人选择删除内容或注销账号离开，其余大多什么都不做，独自承受。
基于这一发现，小红书升级了防网暴功能，将防护的起点从“用户举报”前移到“系统识别”。具体方式是，当算法识别出“疑似受害者”，平台会主动向其发送系统消息提醒，并引导用户一键打开防网暴专属工具“小红盾”。同时平台也会向“疑似施暴者”发出提醒，告知其可能已构成不友善行为，违反社区规则将被处罚。
中国政法大学副教授朱巍表示，网络暴力治理最关键的环节是在事前。“网暴一旦形成，即便事后加害人受到了惩处、谣言也澄清了，对当事人造成的伤害还是很难弥补”，他认为，平台通过技术手段提前识别风险，主动向疑似受害人发出预警开启保护，是把治理动作往前挪了一步，“这比事后删帖更有价值，是平台主动履行责任的一种体现”，朱巍称。
三要素触发预警 正常批评与维权不算网暴
今年以来，“小红盾”向疑似受害者发送温馨提醒2.1万次，平均每天主动拦截超8000条违规内容。
当用户进入“小红盾”并开启一键防护后，可在7天内屏蔽陌生人评论、私信等互动，到期后用户也可自主选择是否延长防护；用户的评论区也会自动触发防火墙，所有评论由后台先审后发；此外，小红盾还设置独立审核队列，审核人员可查看记录并进行回审。
对于打开“小红盾”的用户，平台会对内容、账号以及设备层面全面“扫描”。内容方面，平台会对辱骂、隐私泄露、挂人开盒、组织围攻分级处置，覆盖笔记、评论、私信和群消息等领域；账号方面，平台会对短期内多次产生施暴行为的账号打标，按程度执行禁言直至封号；针对有些施暴者换不同账号施暴的情况，平台会对确认施暴者在设备层面进行关联处置，降低换号继续攻击的可能，在违规账号被封禁或注销后同步清理其历史评论和群消息。若施暴者的言行涉嫌违法犯罪，平台会依法固定相关证据，配合有关部门的调查取证工作，并按照要求移交线索，依法追究施暴者的法律责任。
在网暴的判定上，平台也明确了“指向性”、“伤害性”和“聚集或持续性”，是触发预警的三大要素。
具体而言，指向性，是指攻击明确指向特定的某个人，是对具体的人的攻击，不是对现象、观点或群体的泛泛议论；伤害性，是指内容含侮辱谩骂、造谣诽谤、开盒曝私、恶意玩梗中伤、身份与地域歧视，对当事人的名誉、隐私、心理健康造成实质伤害；聚集或持续性，是指攻击呈现大量聚集，或者长期反复纠缠，两者具备其一即触发预警。
在明确“什么是网暴”时，小红书也说明了“什么不被认定为网暴”，即针对内容本身的批评与讨论、正常的消费维权、涉及公共利益的检举揭发与舆论监督，不被判定为网络暴力。
文/广州日报新花城记者：文静
图/广州日报新花城记者：文静
广州日报新花城编辑：龙嘉丽
