Google|为了把 Deepfake 关进笼子，各大公司都拼了( 二 ) 算法|大公司|微软

现如今谷歌决定禁止 deepfake 类项目在 Colab 上运行，势必将对私人的 deepfake 内容制作造成不小的打击。
因为这意味着那些初级和中级 deepfake 制作者将失去一个最重要的免费工具，让他们继续制作此类内容的成本显著提高。
不过据领域内一些内幕人士表示，那些最顶级的，将 deepfake 当作一门生意的专业制作者，已经基本实现了完全“自主生产” 。
这群人通过非法销售及会员募捐等方式，赚到了不少钱，可以投资更加高级的设备。现在他们可以制作分辨率、清晰度和脸部还原度更高的 deepfake 视频，从而不用依赖 Colab 以及云计算等在线服务，就能实现稳定生产和营收。
举个例子：想要实现2k甚至4k分辨率和60fps的帧率，并且单片单次渲染用时在可以接受的范围（比如几天）的话，需要一个庞大的渲染农场，至少10台电脑，每台两张支持 SLI 技术的英伟达 RTX 高端显卡，以及上百GB的内存。这样下来仅单台的购置成本就已经相当高了，更别提还要算上运转时的电费（渲染、冷却等），可以说是一笔相当大的投资。
很遗憾，对于这群人来说，谷歌的新政策对他们完全起不到作用。只有全社会对 deepfake 带来的负面影响提升重视，整个科技行业都行动起来， deepfake 的滥用问题才能得到解决。

把 deepfake 关进笼子里，各国、各大公司都在行动谷歌
这的确不是谷歌第一次出面打击 deepfake 内容制作了。在2019年， Google Research 就发表过一个大型视频数据集。其背后是谷歌在自己内部通过制作 deepfake 视频的方式，从而试图了解相关算法的工作原理。
对于谷歌来说，它需要提高识别 deepfake 的能力，从而在商业化产品环境里（最典型的就是 YouTube 用户视频上传），从源头上切断恶意换脸视频的传播途径。以及，第三方公司也可以使用谷歌开放的这个数据集来训练 deepfake 探测器。
不过，近几年 Google Research 确实没有花太多心思在打击 deepfake 上。反而，该公司最近推出的 Imagen ，一个超高拟真度的文字生成图片模型，效果非常惊人，反倒是引发了一些批评。
微软
微软研究院在2020年共同推出了一项 deepfake 探测技术，名为 Microsoft Video Authenticator 。它能够检测画面中的渲染边界当中灰阶数值的不正常变化，对视频内容进行逐帧实时分析，并且生成置信度分数 (confidence score) 。
微软也在和包括纽时、BBC、加拿大广播公司等顶级媒体合作，在新闻行业的场景下对 Video Authenticator 的能力进行检测。
与此同时，微软也在 Azure 云计算平台中加入了媒体内容元数据 (metadata) 校验的技术。通过这一方式，那些被修改过的视频内容可以和原视频的进行元数据比对——和下载文件的时候比对 MD5 值差不多意思。
Meta
2020年， Facebook 宣布在 Facebook 产品平台全面禁止 deepfake 类视频。
然而这个政策执行得并不彻底。比如，目前在 Instagram 上还可以经常见到那个著名的中国翻版马斯克 deepfake 视频（主要是从 TikTok 上转发过来的）。
在行业层面， Meta、亚马逊 AWS、微软、MIT、UC伯克利、牛津大学等公司和机构在2019年共同发起了一个 deepfake 检测挑战赛，鼓励更多、更优秀、更与时俱进的检测技术。
Twitter:
2020年 Twitter 封杀了一批经常发布 deepfake 视频的账号。不过对于其它 deepfake 内容， Twitter 并没有完全限制，而是会打上一个标签“被修改的内容”(manipulated media) ，并且提供第三方事实核查机构的检测结果。
创业公司：
OARO MEDIA：西班牙公司，提供一套对内容进行多样化数字签名的工具，从而减少deepfake 等被修改过的内容传播对客户造成的负面影响。
Sentinel：位于爱沙尼亚，主要开发 deepfake 内容检测模型。
Quantum+Integrity：瑞士公司，提供一套基于 API 的 SaaS 服务，可以进行各种基于图像类的检测，能力包括视频会议实时 deepfake、截屏或图片“套娃”、虚假身份证件等。
国家（立法和行政）
中国：2020年印发的《法治社会建设实施纲要（2020 - 2025年）》进一步要求，对深度伪造等新技术应用，制定和完善规范管理办法。
美国：2019年正式签署生效的2020财年国防批准法当中包含了和 deepfake 相关的条文，主要是要求政府向立法机构通报涉及跨国、有组织、带有政治目的的 deepfake 虚假信息行为。
加州、纽约州和伊利诺伊州都有自己的 deepfake 相关法律，主要目的是保护 deepfake 受害者的权益。