施暴者|技术+人文，抖音防网暴管理能力升级营收|净利润|亿元|大数据

文/赵青晖方查理
“网络暴力”由来已久，在十几年前的PC时代，互联网还没有像如今这样渗透到人们生活的方方面面，关于网络暴力的话题就已经引起了人们的关注与警惕，随着技术的进步，移动互联网时代的到来，近些年“网民”数量急剧攀升，网络暴力的影响范围也越来越大，甚至逐渐黑产化。
防网暴势在必行。
防网暴成抖音下一个持续关注领域移动互联网为人们生活带来便利的同时，也给网暴黑产造就了温床，社交平台、短视频平台等多个公共网络场所成为了网暴行为的高发地，评论、私信也成为了网络暴力的主要手段，所谓“能力越大，责任越大”，对于网暴乱象，除了舆论呼吁外，各大网络平台也应当承担起帮助用户防止网络暴力的责任。
如在近期火热的冬奥会期间，就有不少人通过网络平台的评论和私信功能对冬奥选手进行诋毁、侮辱攻击、散布不实谣言，对冬奥观赛和社区氛围造成了极大的伤害，前不久，短视频平台抖音就针对冬奥会的情况对331个网暴冬奥选手的账号进行了禁言或封号的处罚处理。
近几年来，作为国内最大短视频平台之一的抖音看上去对“能力越大，责任越大”这句话有极为深刻的理解：过去一年中，抖音的公开课、曲艺、乡村相关视频内容高速增长；也大力推动了老年化适配，有专属的老人专线；此外还做了最用心的青少年模式，雷峰网还曾对世面上视频平台的青少年模式做过横向对比，结果显示抖音各项产品综合最优。
而抖音的另一个长期持续关注的领域，则选在了“防网暴”方面。
正如2018年更新的抖音品牌slogan“记录美好生活”一样，抖音里“每个人既是内容创作者，又是内容消费者”。每天伴随海量的内容创作和消费，也有大量的评论、私信产生。抖音每天会有8亿条评论产生，其中，被处理的视频里，“谩骂，人身攻击”占比32.79%。
这样海量的负面评论内容，如果只是在事后处理，一方面会让平台面临巨大的治理压力，另一方面，对于用户来说，网络暴力行为已经发生，受到的创伤很难得到平复。
所以，抖音在今年1月更新了用户风险提醒、负面内容过滤等系列功能，通过8大功能，成为国内首个在各个场景下提供预防网暴服务的平台。从评论和私信两个维度出发，从主动管理发送者到接收者自我管理，从前期的评论发送警示，到中期的私信分层管理，再到后期平台小助手提供“心情关怀”，打通了预防网暴前中后的整个流程。
雷峰网也针对抖音全新的防网暴功能，进行了全面的评测。

文章插图

抖音防网暴的评测雷峰网此次对抖音全新防网暴的功能评测，主要在两方面，一方面是面向创作者的新权限与功能评测，看新的功能是否可以直接为创作者带来更好的体验，另一方面从人文关怀方面出发，探寻抖音是如何尝试从本质上减少网暴行为的。
1、面向创作者的新权限与功能
【 施暴者|技术+人文，抖音防网暴管理能力升级】抖音中最基础的私信对象限定功能，早在2017年12月就已经上线，用户可以设置为所有人/互关好友/关闭三种状态中选择，是最彻底和基础的私信过滤。
但对于“大V”、流量主、商用账号等需要面对大量陌生人、单向关注者的用户，他们无法一刀切地限制私信对象，所以这些特殊人群在此前经常会遇到广告、谩骂、骚扰等问题。

文章插图

而1月底上线的“用户风险提醒和负向内容过滤”功能，对前述问题进行了很大程度的优化。
用户风险提醒是系统引导用户去管理，对陌生人或单关人消息进行识别，并提供“拉黑/举报/移除粉丝”的弹窗。负向内容过滤是利用了算法自动处理，识别谩骂/骚扰信息后，自动折叠到陌生人垃圾信息中。
根据抖音官方的数据，该功能上线后，日均对25万次会话发出风险提示，日均近9万条消息被列入垃圾信息，日均超过7万用户受益。

文章插图

而对于评论方面，抖音上线了“谁可以评论”的选项。其默认选择“所有人”，但另外有“所有人”、“仅粉丝”、“仅互关朋友”、“仅自己”四个选项可选，对新视频和旧视频都可以选择，简单、粗暴、有效。
2、面向内容消费者的人文关怀
抖音里的创作者和消费者是一体两面的。