仅2022开年以来，进入大众视野的网暴事宜已多达数起，特殊是“刘学州寻亲事件”以及上海打赏骑手200元的女子遭遇网暴事宜，当事人乃至付出了生命的代价。
与此同时，一场声势浩大的网络暴力管理正拉开帷幕。4月24日，中心网信办宣告开展“豁亮清明·网络暴力专项管理行动”，哀求新浪微博、抖音、百度贴吧、知乎等18家网络暴力易发多发、社会影响力大的平台履行网暴全链条管理。
相较于漫长繁芜又相对滞后的法律路子，聚焦更为前真个平台监管，不失落为破解网暴防治难题的一个新选择。如何将网暴止步于抽芽状态，建立起“第一道防护网”，并给重点群体供应救助保护等等，都是平台当前面临的寻衅。
豁亮清明专项行动落地近一个月，平台交出了若何的成绩单？
南都实测8款互动性较强的App创造，险些所有平台都为用户供应了关闭评论、私信以及弹幕等选项，也能事前拦截或经投诉后及时处置恶意私信，但更为暗藏的内涵式辱骂依旧难以被过滤。此外，当用户提出网暴帮忙要求时，有平台客服表示难以为用户保存和固定网暴证据，也没有建立起快速便捷的帮忙机制。
平台，网暴管理的第一道防线
今年4月初，上海师范大学徐汇校区正处于疫情封控阶段。居住在校外的陈真真向母校捐赠代价五万元的巧克力，想给在校师生带去一点安慰。
此举传开后，恶意揣度也随之而来——有人认为陈真真“捐巧克力是由于和品牌方有互助”“为了想红为了上热搜”，还有一位拥有50万粉丝的微博博主质疑陈真真花父母的钱，扒出了她的照片。事实上，这笔钱是陈真真业余拍摄的收入。
陈真真遭遇网暴期间，正逢中心网信办宣告开展网络暴力专项管理行动。与此同时，微博、抖音、快手等多个平台客服也联系上了她。有平台见告她，可以整理恶意评论和私信交由平台处置；还有平台表示乐意同步和推举她的发声***作为声援。
南都把稳到，此前扒出陈真真照片的微博博主，已被微博官方作禁言处置。“我没有这么大的能量（去影响监管），但这（网暴专项管理行动）是对我的一种鼓励。”陈真真说道。
不过，平台对陈真真的分外关注并不适用于所有人。南都和多位网暴当事人的互换创造，他们遭遇网暴后的第一反应是进行澄清。但微薄的个人力量每每难以抵挡铺天盖地的质疑声，于是他们选择“断网”，试图阔别风暴中央。
他们中险些没有人想过主动向平台乞助。“没有履历”“第一韶光不想靠近网络”“平台这个路子该当不好使”“平台每天发生太多这种事情，假如想管早就管了”，是他们给出的一些情由。
然而从实践来看，不论是陈真真的经历，还是“刘学州寻亲事件”“冬奥运动员网暴事宜”的处置中，随意马虎被当事人忽略的平台正好是网暴管理的“第一道防线”。平台不但能够迅速阻断来自施暴者的攻击，还能防止网暴的发酵和扩散。
在“刘学州寻亲事件”中，干系***等内容引发广泛关注，大量用户私信、评论涌入刘学州的社交账号，导致悲剧发生。
可以看到，新浪微博在第一韶光停息了与刘学州有私信往来的用户的私信功能并奉告缘故原由；并对干系用户近期公开拓博内容、评论内容、投诉举报情形逐一核查，予以永久禁言或限时禁言的惩办。微博站方共对1239个账号进行核查，处置92个账号，及时公开核查情形回应网民关怀，还多次公示处置情形以警示违规行为。
又如“冬奥运动员网暴事宜”，抖音和快手等短***平台通过模型识别、举报受理、舆情监测等办法，拦截清理干系违规***和评论内容；对存在互撕谩骂、鞭策对立、网暴诋毁行为的账号，视违规情节严重程度予以禁言或封号等处置。同时，平台还加大了打击排查力度，掩护和谐的不雅观赛氛围。
监管压实“数字守门人”的主体任务
南都把稳到，早在2007年“网络暴力第一案”中，北京朝阳区法院就曾试图对网暴事宜中的平台任务做出磋商。
彼时，北京朝阳区法院在向工信部发出的法律建议函中提到，当事网站对辞吐内容的审查仅限于一样平常、随机、应投诉的事后审查，而此时侵权事实每每已经发生，有必要采纳更加有效、适当的技能方法，对网民辞吐进行应时监管；并在保障辞吐自由的同时，倡导互联网上辞吐的理性和文明。
在过去十几年环球平台经济腾飞的黄金期，一家家互联网企业已然发展为一个个摩天帝国，构建起纵横交错的生态网络。随着平台主体任务理论的提出，网络空间管理也成为这些“数字守门人”“网络把关人”的主要责任。
浙江省公共政策研究院研究员高艳东见告南都，平台每每处于一种“网络‘准政府’”的角色定位，在“网络空间”的管理上发挥着“准入”“监管”“调控”的浸染。特殊是平台作为网络社交做事供应商，一方面可有效保护网民的合法权柄，另一方面也承担着管控不良信息、遏制网络推手等合法职责。
其余，中国公民大学一级教授、中国法学会副会长王利明也曾在媒体采访中谈及，强化平台管理也有利于减少诉讼，避免过度挤占宝贵的法律资源。
事实上，监管正不断压实平台对付网暴管理的主体任务。
4月24日，中心网信办宣告开展“豁亮清明·网络暴力专项管理行动”，紧张聚焦网络暴力易发多发、社会影响力大的18家网站平台，包括新浪微博、抖音、百度贴吧、知乎等。豁亮清明行动哀求，通过建立完善监测识别、实时保护、干预处置、溯源追责、宣扬曝光等方法，进行全链条管理。
随后，新浪微博、抖音、百度贴吧、微信等多个平台迅速回应称，将按照中心网信办支配开展管理行动。
新浪微博称，将通过建立健全网暴信息样本库、关键词拦截策略、行为识别模型等办法，明确网暴信息标准，及时识别和过滤干系不良内容；陆续上线友善发言提醒、“一键防护”“未关注人私信防护”等功能；通过人工巡查和技能识别等办法加大对辞吐攻击等行为的排查力度。
抖音则称已针对施暴者的不良辞吐攻击和不友善行为成立专项小组，对涉网暴重点环节加强监看，已上线“发文警示”“负向内容过滤”等8项防网暴功能。未来还将优化私信功能规则，限定陌生人私信的频次，强化涉网暴内容过滤，并加强对直播、短***、热榜、话题等环节的巡查力度。
百度贴吧也称在专项行动中，将严格管控人肉搜索和毒辣人身攻击类网暴辞吐；对带头鞭策的账号一律予以封禁；对参与传播网暴的账号一律予以禁言；对发起组织网暴的群组和人肉搜索、人身攻击类信息集中的群组一律予以终结。
5月中旬中心网信办通报，过去4月里，微博、抖音、百度、腾讯、知乎、B站、小红书、快手、豆瓣、网易、新浪、搜狐等紧张商业网站平台重点受理透露他人隐私、侮辱谩骂、造谣诋毁等网络侵权举报已达43.96万件。
如何过滤“绿茶婊”“坟头蹦迪”？
建立健全识别预警机制，将网暴苗头扼杀在摇篮里，是“全链条管理”中的核心举措。
如果说过去碍于技能手段和管理履历所限，人们更多寄希望于通过网络实名制来预防网暴，那么随着平台数据的累积和技能升级，如今可采纳的预防手段更为多样化。
在网暴监测方面，新浪微博对南都表示，正在开拓行为监测模型，通过剖析用户不友善评论数量、举报数量频次等数据，准确识别网暴苗头，并专设724小时专项巡查小组，及时创造、处置并上报违规线索。同时平台还重点监看排查干系社会事宜话题，强化监测。
抖音则上线了“发文警示”功能勾引友善评论：系统模型剖断用户已发送评论存在问题，会弹窗建议重新编辑；如果用户坚持发送，那么该评论不会涌如今评论区。据悉，在小范围测试中，“发文警示”可实现日均减少约3万条不当评论。
在内容识别方面，新浪微博利用机器模型和关键词词库进行内容过滤，将“丑八怪”“绿茶婊”“坟头蹦迪”等不文明用词划入词库；并开放用户举报投诉入口。南都理解到，新浪微博日均机器识别处置屏蔽不友善辞吐数十万条，人工处置用户投诉举报约一万余条。
B站方面则推出面向未成年人的预防机制，当系统识别到有未成年up主投稿后，会对稿件评论和弹幕的互动进行管控和过滤。同时，B站亦会对未成年up主供应更严格的私信保护，降落未成年人受到辞吐侵害的风险。
只管预防手段不少，仍有平台方对南都坦言，网暴行为没有固定规律，存在较大随机性和有时性，有时只由于一句话、一个不雅观点或一个表情随即引爆，平台要实实际时创造和制止的确存在难度。其余，当前干系法律法规“存在一定空缺”，行业没有统一标准，各平台尺度不同，导致平台处置过程中也常收到用户投诉。
高艳东提到，当前关于网暴行为的认定层面存在一定不敷。不过借助包括《刑法》《网络安全法》《个人信息保护法》以及《关于办理利用信息网络履行诋毁等刑事案件适用法律多少问题的阐明》在内的多部法律及法律阐明，已经能够在一定程度规制对网暴行为。
“在法律法规、行业标准的制订已初步‘完备’的情形下，法律法规施行、行业标准实行的现实情形如何，可能是当前碰着的紧张问题。”高艳东说道。
实测平台拦截“恶意私信”，内涵式辱骂成难点
网暴事宜中，平台通过建立当事人实时保护机制，帮助当事人构建一道信息樊篱，快速“断网”隔绝攻击。为此，南都实测了新浪微博、抖音、B站、豆瓣、知乎、快手、小红书和百度贴吧等互动性较强的8款App。
个中，新浪微博、抖音、豆瓣、知乎均推出“一键防护”或类似模式，用户可以主动选择关闭未关注人的私信和评论，来割断外界骚扰。南都还不雅观察到，第一韶光回应网暴专项管理行动后，抖音、微博、爱奇艺等多个平台几天内相继调度了私信功能，以拦截陌生人的私信“轰炸“。
比如抖音逐步上线的“24小时临时会话功能”。当用户吸收到陌生人发来的私信时，将仅显示一条私信提醒。若用户回答，则与对方开启单次临时会话，仅限笔墨互换，有效期为24小时。接下来，抖音还会持续加强评论及私信场景下的用户保护机制，通过模型识别、举报监测等手段，对高风险用户进行主动提醒，强化涉网暴内容过滤。
为相应主管部门哀求，新浪微博也做出了类似调度——用户确认吸收后才能查看该条私信内容并进行正常笔墨对话。此外，新浪微博还升级了未关注人私信投诉功能，增加不友善、网暴投诉分类。此类投诉剖断有效后，将扣除发送方信用分。发送方信用分低于一定分数或被多人投诉后，平台将限定其私信功能。
B站、快手、小红书、百度贴吧仍需用户逐个开启评论、私信、弹幕等互动拦截。大多数被测App均限定了未关注人的私信数量，须要用户主动回答或关注才能解除限定。
为此，南都利用两个相互未关注账号进行私信测试。首先由账号A向账号B发送“明文式辱骂”（带有显著的辱骂性词汇）私信。个中，抖音、百度贴吧、知乎、豆瓣、快手、B站等6个App会通过直接提示账号A涉嫌违规，或中途阻截的办法，让违规私信实际无法投递账号B。
而微博和小红书没有拦截上述私信。但在账号B举报后，两款App均在1小时内作出反馈——微博直接将账号A拉入账号B的黑名单中；小红书则关照账号A“在限定期内将无法利用私信功能”。不过，经南都实测，在小红书上，账号A收到关照后依旧可向账号B发出同样的辱骂私信。
随后，南都对成功拦截“明文攻击式”私信的6个App作进一步测试，发送“内涵式辱骂”（带有隐晦的辱骂性词汇）私信。
接到举报后，抖音、B站均在1小时内反馈：抖音禁止账号A的私信功能1日，B站则主动为账号B删去该私信。百度贴吧、快手、知乎均在一日内回答，个中知乎也删去了被举报私信，快手和百度贴吧则表示正在监控账号A。豆瓣方面的反馈最慢，但是惩罚也最重，站方在接到投诉的84小时内对账号A禁言7日。
优化私信功能之以是如此主要，是由于很多时候施暴者会通过私信这一非公开的办法，持续高频地向当事人通报恶意。但也有平台方人士见告南都，网暴管理同时涉及公开数据和私有数据，而平台不便主动监测和剖析受害者私人信息。
私信便是那块“风能进，雨能进，平台不能进”的个人领地。“刘学州寻亲事件”的平台通报也模糊透露出这一困境——新浪微博提到，依据法律法规，站方无权查看用户私信内容，只能根据对干系用户近期以来的公开拓博和评论内容，以及被其他用户举报投诉情形进行逐一核查。
南都还就网暴起诉一事咨询多家平台。有平台客服明确表示不会为个人用户供应施暴者个人信息，但也有客服称，用户可以提交法律机构出具的帮忙调查函进行申请。此外，多家客服均表示平台无法帮忙用户保存私信等网暴证据，用户需自行保存。
高艳东认为，一方面，平台应严格依照《个人信息保护法》，以公开透明的办法，不能仅以预防遏制“网暴辞吐”为目的随意供应个人信息，而应尽可能地减少对个人信息权柄的影响。另一方面，平台要在一定程度上保障网络用户“免受网暴侵害”的权利，即在用户揭橥违法辞吐、陵犯他人权利时，应该依照法定程序“透露”部分个人信息，帮忙法律程序，助力网暴管理。
事后追责，专家建议实行跨平台黑名单制度
退一步而言，如果不能在事前阶段成功拦截网暴内容，那么在事中、事后环节实现用户保护和平台及时参与，就尤为主要。
南都实测创造，所有被测App均设置了针对评论、私信乃至用户的快捷举报渠道。有时候，网络暴力投诉还会涉及姓名权、名誉权、肖像权、隐私权等人身权柄轇轕。发起此类投诉时，用户须向平台供应个人身份信息和干系证据，等待平台作进一步核实后处理。
在平台对违法违规用户的处置上，最通用的做法便是禁言和封号。比如，微博依据行为性子采纳阶梯式处置：对付参与网络暴力的账号，平台视情形采纳批量禁言、限定功能等处置；对付首发、多发、鞭策发布网暴信息的账号，视情形采纳永久禁言、关闭账号等方法；至于涉嫌违法犯罪的，平台视情形移交有关部门依法深究法律任务。
考虑到网络暴力由极少数网暴辞吐制造者发起，进而迅速传播、发酵，因个中参与人数浩瀚，每每具有跨平台传播等特点。高艳东提出一个设想，在全网实行跨平台黑名单制度。一方面，有助于尽可能地遏制网暴辞吐跨平台传播，另一方面，也有助于从戒备特定网暴者层面，遏制有严重网暴行为历史者的跨平台二次网暴。
除此之外，平台参与乃至日常管理还有一个不可或缺的特殊环节——为用户供应生理开导乃至戒备自尽。众口铄金，积毁销骨，当网络天下的辞吐被无限放大和叠加，以雷霆万钧之势向单一个体袭来，不堪重负确当事人常常会走向极度。
南都实测中，除了百度贴吧外，在其他被测App内输入“自尽”二字，会显示类似于“你并不孤单，我们都在”等抚慰性笔墨并供应24小时生理声援热线。不过南都创造，实在百度搜索引擎页面也对“自尽”做了类似关怀设计。
据悉，B站方面建立了一套烦闷感情识别模型，透过用户辞吐识别是否存在烦闷方向或轻生方向。新浪微博也对平台内的自尽内容和线索，配备专门的客服和内容安全团队，对概率较大或方向严重的自尽博文及时上报干系部门。抖音方面推出了“心情暖宝宝”助手，通过对话的交互办法，缓解用户负向感情。
在高艳东看来，比较于传统事后追责机制，平台应紧张在事前、事中环节发力，完善强化对“网络空间”的事前戒备及事中处置机制。
他进一步指出，一方面，平台须要制订完善的“反网暴“规范，实行网络空间准入“实名制”，强化网络社交空间的辞吐信息、用户行为管理、筛查机制，及时预警网暴辞吐的涌现，另一方面，平台须要进一步完善事中举报、申说机制，鼓励用户举报性子恶劣、攻击性辞吐，及时创造、清理处置可能涉及网络暴力的评论、弹幕等实时内容。
在监管压力下，平台网暴管理机制已初具雏形。如何将各类模式推而广之，战胜现有障碍，真正的磨练大概才刚刚开始。
出品：南都个人信息保护研究中央
采写：南都 黄莉玲
制图：尹洁琳
