联合实验室|腾讯携手虎牙成立安全联合实验室 “AI审核+安全攻防”构建更健康直播生态攻防|直播|审核|

_原题为 腾讯携手虎牙成立安全联合实验室 “AI审核+安全攻防”构建更健康直播生态
金羊网讯 “内容为王”渐成趋势，带动直播、短视频等UGC平台迎来爆发式成长，健康和谐的内容生态也随之成为直播行业生存发展的关键。
10月10日，虎牙公司与腾讯云、腾讯安全共同宣布成立安全联合实验室，双方将融合腾讯在云服务器底层算力、内容风险识别、反欺诈和威胁情报等方面的技术能力优势与虎牙公司在内容风控、安全攻防和直播业务场景的实战积累，围绕AI安全应用、黑产打击、安全攻防、数据标注、人工审核等多个领域展开技术交流与业务合作，共同建设AI智能审核平台及安全攻防机制，并以AI安全能力的应用扩容，在虎牙直播平台打造全方位安全攻防和更精准的内容审核体系，为健康的网络直播内容生态建设提供参考样本和前沿解决方案。虎牙公司高级副总裁李萌、虎牙公司内容风控副总裁张二虎、腾讯云副总裁魏伟、腾讯安全副总裁黎巍等领导嘉宾出席实验室挂牌仪式。

文章图片
虎牙公司携手腾讯云、腾讯安全成立安全联合实验室
“强大算力+AI审核+安全攻防”助力直播内容生态优化
疫情催化之下，在线业务按下发展“快进键” ，直播平台流量价值的日趋攀升，在一定程度上也让黑灰产看到了更大的“商机” 。而伴随着直播业务内容生态圈的纵深发展，如何有效预防黑灰产带来内容风险与威胁，成为直播行业健康持续发展的重要基石。如腾讯安全副总裁黎巍所言：“随着包括生活服务、游戏、视频、直播等在内的泛互联网行业利益点的不断延伸，内容安全能力已成为高度重视用户体验的泛互领域企业获取用户黏性的关键所在。 ”
结合多年来直播行业内容生态建设经验，虎牙公司高级副总裁李萌认为，平台在不断突破自身的安全技术能力，持续优化审核规范与制度基础上，与拥有强大底层算力和成熟安全技术的厂商合作，会成为直播行业治理优化内容生态的有效途径。基于此思路，腾讯云、腾讯安全与虎牙公司融合虎牙全面上云及多元破圈发展的短、中、长期安全需求，开放各自优势、能力与资源，在AI安全应用、黑产打击、安全攻防、数据标注、人工审核等多个领域展开创新研究。
一方面，作为国内头部直播平台之一的虎牙公司将秉承对违规内容和欺诈事件“0容忍”的态度，基于其团队坚守内容审核及内控合规一线的多维度内容管理体系，结合自研的“AI智能识别、人工审核和网络志愿者”三位一体模式，主动协助公安机关侦破涉疫情欺诈、刷单欺诈、冒充客服欺诈、游戏装备交易欺诈等多类黑灰产案件。为平台安全及内容风控体系的升级打造提供实战佐证与场景示范。
另一方面，腾讯则将依托20余年来积累的业务安全运营能力及黑灰产对抗经验，全面开放基于腾讯云星星海SA2云服务器底层算力和腾讯安全“AI+大数据”的内容风控安全技术，针对合作场景持续优化内容识别能力，从而为虎牙公司营造更为安全的内容生产环境。并共同以合作成果反哺行业发展，促进直播行业平台安全与内容风控的创新实现。
覆盖内容风险识别全场景，为直播行业提供前沿解决方案
在文本、图片、音频、视频等内容井喷式涌现的富媒体时代，内容风控能力已成为内容平台的一项核心竞争力。在《网络信息内容生态治理规定》实施以来,虎牙公司已着力完善内容风控技术、加强主播规范教育、提高平台自审与处罚力度,为网络直播环境净化与良性内容生态建设贡献力量。在风控技术层面，虎牙公司自主研发业务风险识别系统，于声音、画面、文本维度，发现、预警和处置违规信息，能够对“方言性”普通话实现精准转译、画面内容实现全面识别、恶意文本内容进行“毫秒级”反应拦截。在人工内容审核层面，虎牙公司的内容审核团队始终保持7*24小时在线，通过审核+复查+质检三道审查规范，与机器审核结合，实现最优运转。同时，虎牙公司从17年开始组织平台用户成立了一支 “虎牙志愿者”团队，共同推动平台生态健康发展，目前团队规模已逾十万人，共反馈百万条线索且有效率超50% ，进一步提升了平台的审核效率。该项创新项目也获得由中国演出行业协会颁发的“中国网络直播行业2018年度创新大奖” 。
而腾讯云首款自研的星星海服务器结合虎牙公司在云上业务的具体场景，在性能、能效、安全特性、可靠性等层面持续优化，同时与腾讯云虚拟化等优势软件技术充分协同，为直播业务的内容审核提供了强大的算力支撑。据了解，星星海服务器采用腾讯云与AMD在其最新ROME平台下深度定制的CPU ，实现行业最优单核性能和最优单核TCO 。根据测试，基于星星海的云服务实例综合性能提升35%以上，其中视频处理速度提升40% ，图形转码得分提升35% ， Web服务页面QPS提升高达152% 。
针对各大内容社区的合规及风险识别需求，腾讯安全以AI算法为核心，以海量互联网数据为基础，打造出的腾讯安全天御内容风控系统不仅能通过库、模型、账号等对内容风险进行多维度识别，还能通过在线训练平台主动挖掘业务数据，经由攻防演练极大地提升模型的优化效率。其中针对违规视觉内容的识别能力是腾讯优图实验室通过海量数据训练得到的AI识别能力，能够通过特征提取、标签预测、细粒度识别，精准识别色情、暴力等内容。目前，腾讯安全天御已打通了音视频、文本及图片等内容风控的全链路。分页标题

文章图片
腾讯安全天御内容安全框架示意图
搭载腾讯云和微信小程序，腾讯安全天御内容风控系统已服务了超过5万家开发者，行业渗透率达90% ，审核效率提升20倍以上，为不同规模的企业降低了20%-80%的成本，业务健康程度达到99.89% ，守护了数万家客户的内容安全。
未来，随着VR、AR、5G等新技术的落地，内容生态建设将面临着更为多元的复杂场景。腾讯云、腾讯安全和虎牙公司将持续深化合作，向直播行业合作伙伴输出内容生态建设的攻防经验和AI算法模型能力，致力为直播行业和内容社区打造内容新生态提供更多实战成果与参考。
【联合实验室|腾讯携手虎牙成立安全联合实验室 “AI审核+安全攻防”构建更健康直播生态】编辑：木青