快手私信交易举报：“第一道防护网”止步于萌芽状态聚焦更为前端平台监管

目前，我国网民规模已超过10亿，进入“人人有麦克风”时代；然而，近年来，网络暴力事件层出不穷，且愈演愈烈。

仅2022年初以来，就有数起网络暴力事件进入公众视野，尤其是“刘雪洲寻人事件”和上海女子打赏骑手200元事件。当事人甚至付出了生命的代价。

与此同时，一场大规模的网络暴力治理正在拉开序幕。4月24日，中央网信办宣布启动“青浪网络暴力专项治理行动”，要求新浪微博、抖音、百度贴吧、知乎等18个网站网络暴力事件频发，社会影响大。平台实现网络暴力的全链条治理。

相对于漫长、复杂、相对滞后的司法途径，更多地关注前端平台监管，可视为解决网络暴力防控问题的新选择。如何制止处于萌芽状态的网络暴力，建立“第一道防护网”，为重点群体提供救援和保护等，是平台当前面临的挑战。

青浪专项行动已启动近一个月。平台交出了什么样的成绩单？

南都记者测试了8款互动性强的APP发现，几乎所有平台都为用户提供了关闭评论、私信、弹幕等选项快手号转让，还可以提前拦截恶意私信或投诉后及时处理恶意私信，但内涵更隐蔽。正式滥用仍然难以过滤。此外，在用户提出网络暴力协助请求时，有平台客服表示，网络暴力证据难以为用户保存和修复，没有建立快捷便捷的协助机制。

平台，网络暴力治理的第一道防线

今年4月初，上海师范大学徐汇校区正处于疫情封锁阶段。住在校外的陈真真向母校捐赠了价值5万元的巧克力，希望能给在校师生带来一些安慰。

此举传开后，恶意炒作也随之而来——有人认为陈真真“捐赠巧克力是因为与品牌合作”、“为了走红、上热搜”，一位拥有50万粉丝的微博博主质疑陈真真珍珍花掉了父母的钱快手私信交易举报：“第一道防护网”止步于萌芽状态聚焦更为前端平台监管，拿出了她的照片。事实上，这笔钱就是陈真真业余拍摄的收入。

在陈真真遭遇网络暴力事件期间，中央网信办宣布启动打击网络暴力专项行动。同时，微博、抖音、快手等平台的客服也联系了她。有平台告诉她，恶意评论和私信可以整理出来交给平台处理；一些平台表示愿意同步和推荐她的配音视频，以示声援。

南都记者注意到，此前晒出陈真真照片的微博博主已被微博官方封禁。“我没有那么多精力（影响监管），但这（打击网络暴力的特别行动）对我来说是一种鼓励。” 陈真真说道。

不过，平台对陈真真的特别关注并不适用于所有人。南方都市报记者与多名网络暴力事件相关人士交流后发现，他们遇到网络暴力事件后的第一反应是澄清。然而，他们微薄的个人实力往往难以抵挡铺天盖地的质疑声，因此他们选择“断网”，尽量远离风暴中心。

很少有人想过主动向平台求助。“没有经验”、“我第一次不想靠近互联网”、“平台应该不好用”、“平台上每天都在发生太多这样的事情，如果你想要管理它，你就会管理它”是他们给出的一些原因。

但是，从实践的角度来看，无论是陈真真的经历，还是“刘雪洲寻人事件”、“冬奥运动员网络暴力事件”的处理，最容易被当事人忽视的平台恰恰是网络暴力治理的“第一道防线”。. 该平台不仅可以快速阻断肇事者的攻击，还可以防止网络暴力的发酵和蔓延。

在“刘学洲全家搜查事件”中，相关视频等内容引起广泛关注，大量用户私信和评论涌入刘学洲社交账号，酿成惨剧。

可见，新浪微博立即暂停了与刘学洲有私信的用户的私信功能，并告知原因；并对相关用户近期公开的博客内容、评论内容、投诉举报等进行一一核查，永久封禁。或限时禁令。微博网站共验证了1239个账号，处置了92个账号，并及时公布了验证情况，回应了网友的关切。

另一个例子是“冬奥会运动员网络暴力事件”。抖音、快手等短视频平台通过模特识别、举报受理、舆情监测等方式拦截、清理相关违法视频和评论内容；在线辱骂、煽动对抗、诽谤的账号将根据违规严重程度被封禁或封禁。同时，平台也加大了打击查处力度，维护了和谐的观赛氛围。

督促压实“数字看门人”主体责任

南都记者注意到，早在2007年的“首例网络暴力案”中，北京朝阳区法院就试图探讨平台在网络暴力事件中的责任。

当时，北京市朝阳区法院在下发给工信部的司法意见书中提到，有关网站对演讲内容的审查仅限于一般性、随机性和事后检查。应该被投诉。及时采取更有效、更恰当的技术措施，对网民言论进行监督；在维护言论自由的同时，倡导网络言论的理性和文明。

在过去十年全球平台经济腾飞的黄金时期，互联网企业一个个成长为摩天大楼，构建起纵横交错的生态网络。随着平台主体责任理论的提出，网络空间治理也成为这些“数字看门人”、“网络看门人”的重要义务。

浙江省公共政策研究所研究员高延东告诉南都记者，平台往往定位于“网络‘准政府’”的角色，发挥“准入”、“监督”和“监管”的作用。 ” 在“网络空间”的管理中。特别是作为网络社交服务提供者，平台一方面可以有效保护网民的合法权益，另一方面也承担控制不良信息、遏制网络推广者等合法责任。

此外，中国人民大学一级教授、中国法学会副会长王黎明在接受媒体采访时也提到，加强平台治理也有利于减少诉讼，避免宝贵司法资源过度拥挤。

事实上，监管正在不断夯实平台对网络暴力治理的主体责任。

4月24日，中央网信办宣布启动“青浪网络暴力专项行动”，主要针对新浪微博、抖音等18个社会影响力高、易发生网络暴力的网站和平台@>、百度贴吧、知乎等。青浪行动要求建立健全监控识别、实时防护、干预处置、追溯问责、公示曝光等措施，开展全链条治理.

随后，新浪微博、抖音、百度贴吧、微信等平台迅速回应，将按照中央网信办部署开展治理行动。

新浪微博表示，将建立健全网络暴力信息样本库、关键词屏蔽策略、行为识别模型等，明确网络暴力信息标准，及时识别和过滤相关不良内容；“未关注者私信保护”等功能；通过人工检查和技术鉴定，加大对言语攻击等行为的排查力度。

抖音表示，针对施虐者的不良言论攻击和不友好行为，已成立专门小组，加强对网络暴力相关关键环节的监控，启动“发出警告”、 “负面内容过滤”。暴力功能。未来将优化私信规则，限制陌生人私信频率，加强对网络暴力相关内容的过滤，对直播、短视频、热榜、话题等进行检查等环节将得到加强。

百度贴吧还表示，在专项行动中，将严格控制人肉搜索和网络暴力恶性人身攻击；所有带头煽动网络暴力的账号将被封禁；所有参与网络暴力传播的账号将被封禁；解散群、人肉搜索、人身攻击信息集。

5月中旬，中央网信办发布公告，近四个月，微博、抖音、百度、腾讯、知乎、B站、小红书、快手、豆瓣、网易、新浪、搜狐等各大商业网站平台主要受理泄露他人隐私、侮辱、诽谤等网络侵权举报43.96万件。

如何过滤“绿茶婊”和“坑坑洼洼的坟墓”？

建立健全识别预警机制，将网络暴力迹象扼杀在摇篮中，是“全链条治理”的核心举措。

如果说过去由于技术手段和治理经验的限制，人们更希望通过网络实名制来防范网络暴力，那么随着平台数据的积累和技术的升级，今天可以采取的防范措施更加多样化。

在网络暴力监测方面快手私信交易举报，新浪微博对南都记者表示，正在开发行为监测模型，通过分析用户不友好评论数量、举报频率等数据，准确识别网络暴力迹象，并建立7 * 24小时特检组。，及时发现、处理和报告违规线索。同时，平台还重点关注和调查与社会事件相关的话题，加强监测。

抖音开启“发帖提醒”功能，引导友好评论：系统机型判断用户发送的评论有问题，弹窗提示重新编辑；如果用户坚持发送，评论将不会出现在评论区。据悉，在小范围测试中，“帖子警告”平均每天可以减少约3万条不当评论。

在内容识别方面，新浪微博采用机器模型和关键词词库对内容进行过滤，将“丑”、“绿茶婊”、“坟墓”等不文明词纳入词库；它还打开了用户报告和投诉门户。南方都市报记者了解到，在新浪微博上，机器识别处理每天屏蔽数十万条不友好言论，人工处理用户投诉举报约1万条。

B站已启动未成年人防范机制。当系统识别到主投有未成年人时，会控制和过滤稿件评论和弹幕的交互。同时快手私信交易举报，B站也会对未成年站主提供更严格的私信保护，以降低未成年人被言论伤害的风险。

虽然防范措施很多，但仍有平台坦言告诉南都记者，网络暴力没有固定规律，有很多随机性和偶然性。确实很难阻止。此外，目前相关法律法规存在“一定差距”，行业没有统一标准，各平台规模不一，导致平台处置过程中用户投诉频发。

高延东提到，目前对网络暴力的认定存在一定的不足。但是，在刑法、网络安全法、个人信息保护法、关于利用信息网络实施等刑事案件适用法律若干问题的解释等多项法律和司法解释的帮助下诽谤 对网络暴力的监管程度。

“在法律法规和行业标准的制定已经初步‘完成’的情况下，法律法规和行业标准实施的实际情况可能是目前遇到的主要问题。” 高延东说。

实测平台拦截“恶意私信”，内涵辱骂变难

在网络暴力事件中，平台通过建立当事人的实时保护机制，快速“断网”隔离攻击，帮助当事人筑起信息屏障。为此，南都记者测试了新浪微博、抖音、B站、豆瓣、知乎、快手、小红书、百度贴吧等8款高交互应用。

其中，新浪微博、抖音、豆瓣、知乎都推出了“一键保护”或类似模式，用户可以主动选择关闭不关注的人的私信和评论，切断外部骚扰。南方都市报记者还观察到，在响应网络暴力专项行动后，抖音、微博、爱奇艺等平台在几天内相继调整了私信功能，拦截陌生人私信“轰炸”。”。

比如抖音的“24小时临时会话功能”将陆续上线。当用户收到陌生人的私信时，只会显示私信提醒。如果用户回复，将与对方打开一个临时会话，仅限于文本通信，有效期为 24 小时。接下来，抖音将继续加强评论、私信等场景下的用户保护机制。通过模型识别、举报监控等方式，主动提醒高危用户，加强对网络暴力相关内容的过滤。

针对主管部门的要求，新浪微博也做出了类似的调整——用户只有在确认收到后才能查看私信内容，进行正常的文字对话。此外，新浪微博还升级了关注者的私信投诉功能，增加了不友好和网络暴力投诉的分类。此类投诉被确定为有效后，将扣除发件人的信用。发件人信用评分低于一定评分或被多人投诉后，平台将限制其私信功能。

B站、快手、小红书、百度贴吧依然要求用户打开评论、私信、弹幕等互动拦截一一进行。大多数被测试的应用程序限制了来自他们不关注的人的私人消息的数量，用户需要积极回复或关注才能解除限制。

为此，南都记者利用两个互不关注的账号进行了私信测试。首先，账号A向账号B发送“纯文本辱骂”（带有显着辱骂字眼）私信。其中，抖音、百度贴吧、知乎、豆瓣、快手、B站等6家APP会直接通知A账号疑似违规，或者中途屏蔽快手私信交易举报：“第一道防护网”止步于萌芽状态聚焦更为前端平台监管，让非法私信无法真正传递。账户 B。

微博和小红书均未拦截上述私信。但B账号举报后，两个APP都在1小时内回复——微博直接将A账号拉入B账号黑名单；小红书通知账号A“在限制期内，将无法使用私信功能”。不过根据南都记者实测，在小红书上，A号收到通知后依然可以向B号发送同样的辱骂私信。

随后，南都记者对成功拦截“纯文本攻击”私信，并发送“含蓄辱骂”（带有晦涩辱骂的词语）私信的6款APP进行了进一步测试。

收到举报后，抖音和B站均在1小时内回复：抖音禁止账号A私信功能1天，B站主动删除账号B私信. 百度贴吧、快手、知乎都在一天内回复。知乎也删除了举报的私信，而快手和百度贴吧则表示正在监控A号账号。豆瓣反馈最慢，惩罚也最重。该网站在收到投诉后84小时内将账号A封禁7天。

优化私信功能之所以如此重要，是因为在很多情况下，施虐者会不断通过私信向当事人传递恶意意图，属于非公开方式。不过，有平台人士告诉南都记者，网络暴力治理既涉及公共数据，也涉及私人数据，平台不方便主动监测和分析受害者的私人信息。

私信是“风可入，雨可入，台不可入”的个人领地。“刘学洲寻亲事件”的平台通报也含蓄地揭示了这一困境——新浪微博提到，根据法律法规，网站无权查看用户私信内容，只能依赖相关用户' 最近的公共博客和信息。对其他用户反映的评论和投诉内容进行一一核对。

南方都市报记者还就网络暴力起诉咨询了多个平台。部分平台客服人员明确表示不会向个人用户提供施虐者的个人信息，但部分客服代表表示，用户可以提交司法机关出具的调查协助函申请。此外，多位客服代表表示，平台无法帮助用户保存私信等网络暴力证据，需要用户自行保存。

高延东认为，一方面，平台应严格遵守《个人信息保护法》，以公开透明的方式，而不是仅仅为了防止和遏制以随意提供个人信息为目的的“网络暴力言论”。 ，但应尽可能减少个人信息的权益。影响。另一方面，平台要在一定程度上保障网络用户“免受网络暴力”的权利，即用户在发表违法言论、侵犯他人权益时，应当“披露”部分内容。依照法定程序处理其个人信息并协助司法程序。协助治理网络暴力。

事后专家建议实施跨平台黑名单制度

退一步说，如果网络暴力内容无法在事前阶段成功拦截，那么在事中事后实现用户保护和平台及时介入就显得尤为重要。

南都记者发现，所有被测应用都设置了评论、私信甚至用户的快速举报渠道。有时，网络暴力投诉还涉及姓名权、名誉权、肖像权、隐私权等人身权利纠纷。用户在发起此类投诉时，必须向平台提供个人身份信息和相关证据，并等待平台进一步核实后再处理。

平台在处理违法违规用户时，最常见的做法是封禁言论、封号。例如，微博根据行为性质采取分步走的方式：对于参与网络暴力的账号等级号交易，平台将采取批量封禁、限制功能等措施；对于涉嫌违法犯罪的，平台将视情况移送相关部门追究法律责任。

考虑到网络暴力是由极少数网络暴力言论制造者发起，然后迅速传播和发酵，由于参与者众多，往往具有跨平台传播的特点。高延东提出了在全网实施跨平台黑名单制度的想法。一方面，有助于尽可能遏制网络欺凌言论的跨平台传播；

此外，平台干预甚至日常管理还有一个不可或缺的特殊环节——为用户提供心理疏导，甚至预防自杀。很多人谈金，毁了自己的骨头。当网络世界的言论被无限放大叠加，以压倒性的力量攻击单个个体时，不堪重负的各方往往走向极端。

在南都记者实测中，除了百度贴吧，在其他被测APP中输入“自杀”二字，会显示“你并不孤单，我们都在”等安抚词，并提供24小时心理援助热线. 不过，南都记者发现，其实百度搜索引擎页面也为“自杀”做了类似的设计。

据悉，B站建立了一套抑郁情绪识别模型，可以通过用户语音识别是否存在抑郁倾向或自杀倾向。新浪微博还设有专门的客服和内容安全团队，针对平台上的自杀内容和线索，及时向相关部门报告有高概率或严重自杀倾向的博文。抖音推出了“心情暖宝宝”助手，通过消息对话的互动来缓解用户的负面情绪。

在高延东看来，与传统的事后问责机制相比，平台应以事前、事中环节为主，完善和加强“网络空间”事前防范和事中处理机制。 .

他进一步指出，一方面，平台需要制定完善的“反网络暴力”规范，实施网络空间准入“实名制”，加强言论信息、用户行为管理、筛选机制等。在线社交空间，并及时警告网络欺凌言论。另一方面，平台需要进一步完善举报申诉机制，鼓励用户举报恶意攻击性言论，及时发现、清理和处置可能涉及的评论、弹幕等实时内容。网络暴力。

在监管压力下，平台网络暴力治理机制初具规模。如何泛化各种模型，克服现有障碍，真正的考验可能才刚刚开始。

出品：南都个人信息保护研究中心

撰稿：南方都市报记者黄丽玲

制图：尹洁琳