陈根：智能换脸风靡一时，快速下架( 二 ) 文/陈根不论技术用怎样的特效

首先，智能换脸进一步增加侵犯肖像权和隐私权的可能。没人愿意自己的脸庞出现在莫名其妙的视频当中。
此次Avatarify的流行过程中，马云、马化腾、马斯克等一众商业巨头们就成了娱乐的对象，以至于被迫组合在一起集体演唱神曲《蚂蚁呀嘿》。除此之外，刘德华、张学友、郭富城和黎明也被召集演唱了神曲，网友吐槽“一打开抖音，好像捅了蚂蚁窝。 ”
娱乐之外，却不得不让人心生忧虑。披着娱乐外衣的AI换脸，冠冕堂皇地使用着他人的肖像，而其应用对肖像权和隐私的侵害更将随着技术的泛滥而放大。于是，借助一些低价乃至免费的软件，消费者无需专业知识和技术能力，即可通过终端实现调整速度、摄像头效果、更换背景、实现换脸等操作。
而这些眨眼、摇头等动态行为信息，都是用户不可更改的敏感信息，一旦被非法使用，后果不堪设想。 2019年3月份，《华尔街日报》报道，有犯罪分子使用深度伪造技术成功模仿了英国某能源公司在德国母公司CEO的声音，诈骗了220000欧元（约1730806人民币），其破坏性可见一斑。
其次，这也在一定程度上成为了色情视频滥觞的源头。值得一提的是， AI换脸最初的猎奇就是被应用于色情行业。 2017年，美国新闻网站Reddit的用户首先上传了经过数字化篡改的色情视频，即这些视频中的成人演员的脸被替换成了电影明星的脸。此后， Reddit网站就成了分享虚假色情视频的一个阵地。
2019年出现的一键生成裸照软件DeepNude ，只要输入一张完整的女性图片就可自动生成相应的裸照。受害者通常没有追索权，并且，照片上传之后难再删除。这种轻易生成的色情视频将很大程度上损害女性的工作前途、人际关系、名誉和心理健康，造成污名化女性、色情报复的恶果，使女性暴露在某种集体监视之中。
最后，也是智能换脸带来的最严重后果，就是对于信息的真实性形成的严峻挑战。自从摄影术、视频、射线扫描技术出现以来，视觉文本的客观性就在法律、新闻以及其他社会领域被慢慢建立起来，成为真相的存在，或者说，是建构真相的最有力证据。 “眼见为实”成为这一认识论权威的最通俗表达，在这个意义上，视觉客观性产自一种特定的专业权威体制。

文章图片
然而， PS发明后，有图不再有真相。智能换脸的出现和流行，让视频也开始变得镜花水月了起来：人们普遍认为视频可以担当“实锤” ，而现在这把实锤竟可凭空制造，当真伪界限被数字化操纵，娱乐的趣味性与真相的真实性在混淆视听的人工智能生成物问世后变得更加模糊。这对于本来就假消息满天飞的互联网来说，这无疑会造成进一步的信任崩坏。
如今“眼见为实”已不再适用，人类难以在日常的社会生活中区分数字面孔与自然人，虚假内容轻易取得信任，真伪之辨难上加难，合理的猜测与过度猜忌的界限更加难以平衡。当人工智能能自动生成以假乱真的面容、声音乃至语言的时候，互联网乃至整个社会又该如何应对这种身份信息的混乱？
【陈根：智能换脸风靡一时，快速下架】可以说，不论是Avatarify还是ZAO ，其走红可能是一场猎奇的意外，而下架却是风险衡量后的必然。不论是从法律规制的角度，还是技术应对的角度，人们都尚未准备好迎接这一技术带来的挑战。越是新技术时代，技术越应该被善用，泛滥带来的过度娱乐虽然利好了商业，却是一种僭越。