内容审核的反垃圾策略下，如何优化用户体验？

大部分产品的审核机制和方式相对简单粗暴，对于“误发敏感内容”的用户而言十分不友好，甚至有推卸责任的“嫌疑” 。本文就来思考一下反垃圾策略下的体验优化可以怎么做呢？

本文插图
无论任何形式的互联网产品，用户发布内容的时候，都逃不过一层屏障——内容审核。
内容审核是产品反垃圾策略下的产物，是对产品内容的风险把控，减少产品中出现的“垃圾”信息，净化网络生态环境。
这种措施对于大环境而言是必须的，但是大部分产品的审核机制和方式相对简单粗暴，对于“误发敏感内容”的用户而言十分不友好，甚至有推卸责任的“嫌疑” 。
那么接下来就可以一起思考一下，反垃圾策略下的体验优化可以怎么做呢？
01 概念解读与背景分析
反垃圾策略，实际上就是对网络生产内容进行审核，识别、删除不符合《网络信息内容生态治理规定》的文字、音频、视频等内容。
内容审核方式目前通用的是AI+人工审核的方式，具体的解决方案不尽相同。 AI通过将用户内容与敏感词库中的关键词进行比对后进行识别、剔除或者禁止操作；AI可以识别绝大部分内容，提升审核整体的效率；但是对于视频内容等机器未学习到的内容，仍需要人工审核去把控，或者对用户的申诉内容进行人工干预和处理。
目前内容审核解决方案也很多，例如网易易盾、百度大脑，以及字节跳动开发的灵犬反低俗助手小程序等等。
【内容审核的反垃圾策略下，如何优化用户体验？】

本文插图
（图片来源：https://dun.163.com/product/censor-system?from=baiduP_FLJ_CP6026）

本文插图
（图片来源：https://ai.baidu.com/solution/censoring?track=cp:ainsem|pf:pc|pp:chanpin-neirongshenhe|pu:neirongshenhe|ci:|kw:10001733）

本文插图
（图片来源：灵犬反低俗助手微信小程序）
02 反垃圾策略所面临的的问题
对于内容消费的产品而言，反垃圾、风控是产品安全的保证，这些策略是产品正常运营的保障。但是目前各个产品的内容审核机制不同，处理和应对方案也存在差异，这就导致一系列的操作与体验问题存在。
接下来的内容主要以用户生产成本最低的“文字”内容进行分析。
扎克伯格认为， AI是内容审核的答案。毋庸置疑，面对海量的内容，利用AI算法进行过滤和风控是最优的选择。但是选择过后，各个产品面向用户的解决方式是不同的。
比较简单粗暴的方式就是利用AI进行监测和删除，但是这依赖于强大的敏感词库与机器学习能力。这种内容审核本着近似“劣币驱逐良币”过滤机制，将一切名字敏感词库的词汇进行禁止。这种做法确实可以阻隔绝大多数的不良信息在平台上出现，但同时也会出现很多让人无奈的情况，例如用户本想上传一段诗歌评论：
（寻找到下段文字中的敏感词，看看你是否具备火眼金睛？）
人们可以在世界上走来走去，但无论走到哪里，都依然是围着自我在转，似乎永远无法真正地走出孤独的自我，抵达别的心灵。而正如黑夜总会降临一样，人也终究会离开这个世界，生活充满着各种各样的可能性，或幸福或痛苦，或富贵或贫穷，唯有死亡是每个人无法逃避而不得不接受的可能性。
洋洋洒洒一大段，但是发布时却被拦住了，系统提示有敏感词，无法发布。