互联网广告内容审核专题（三）——人机联动传感器|设计|检测|沟槽|光子

编辑导语：笔者上一篇文章《机器审核》中，重点介绍了机器审核的能力，互联网广告内容审核专题（二）——机器审核；本文来谈谈机器和对人工审核如何组合运作，满足各类业务场景的需求？

文章插图
首先，什么场景需要人工审核？对于机器无法准确识别的内容，都需人工审核进行确认；通常机器审核和人工审核的量级约为9:1，对于日均量级上亿的内容产品上，人审日均量级也达到百万级，同时满足时效性要求和审核质量无疑是很困难的。
因此在实际业务中，根据不同产品的形态，建立不同的人机联动审核机制，最大化满足审核诉求。
下面分别谈谈两种基本的审核机制：
一、人机联动机制1. 先审后发先审后发是早期审核采用的模式，要求全部内容均通过完整的审核流程后允许上线分发，用以保证风险最低、质量最优。
通常对于商业广告，高风险行业或客户必须采用先审后发机制，来避免风险的发生；对于重质量的内容社区，也需要经过完整的审核流程才能进行发布。

文章插图
以上给出先审后发机制中，机器和人工审核联动的基本流程。待审内容都先通过机器审核；当机审输出结果达到阈值，准确度可信时，按机器审核结果通过上线或直接拒绝；当机审输出结果未达到阈值，给出疑似风险的判断，推送给人工审核进行最终确认，按人审结果通过上线或直接拒绝。
对于先审后发机制，不断提升机器审核的准确率，将会大大减少人工审核的工作。
2. 先发后审机制对于海量的内容，全部采取先审后发机制无法满足内容分发的时效要求。近些年兴起的先发后审机制，可以帮助解决这部分问题。
对于商业广告，可以选取低风险行业或客户，允许先上线分发，帮助其短时间内获取更多流量；对于时效性要求高的内容产品，如评论、视频弹幕等，快速上线展现，满足其实时发布需求。

文章插图
以上给出先发后审机制中，机器和人工审核联动的基本流程。待审内容通过机器审核，秒级输出机审审核结果；如机审结果确认有风险，则按机审结果直接拒绝，否则立刻上线分发；上线后根据展现量抽取线上展现内容，推送人工复审，检查风险问题。
如人工复审发现的风险问题较大，可以将该行业或客户的审核机制升级为先发后审，来保证风险可控。
在审核业务中，先审后发和先发后审两种机制也通常组合运作，灵活调配，以最小的成本实现风险控制，满足审核时效要求。
二、审核任务分配在人机联动审核机制中，如何将审核任务快速分配给对应的人员进行审核呢？来一起看看审核任务分配机制。
1. 审核任务主动分配

文章插图
上图是一套动态灵活的审核任务分配机制，减少任务等待时间，更快速地分发给审核人员。
第一步：待审任务灌入审核任务池，等待被分配。
第二步：根据审核组长或管理人员配置的权重，自动分发相应比重的任务，进入审核员任务列表，审核员可以开始审核；通常分配权限需支持灵活配置，如支持审核员请假等场景。
第三步：对审核任务池和审核员任务列表实时监控；如出现任务池任务突增，需加快分配至审核员任务列表进行审核；如审核员任务列表剩余任务不足，任务池主动进行分配；通过这样动态分配的方式，保证审核员有充足的任务，避免任务积压。
实际审核任务分配可以基于此基本方法进行变换，满足不同场景的审核需求。
本篇文章的内容就到这里，关于更多的审核模式、审核机制、审核业务管理方式等会在后续文章中继续和大家分享！欢迎大家一起探讨！
本文由 @Rush 原创发布于人人都是产品经理，未经许可，禁止转载
【互联网广告内容审核专题（三）——人机联动】题图来自 Unsplash，基于 CC0 协议