更针对性|人脸识别60年，安巴·卡克：行动者们正在打开“黑箱”( 二 ) 人脸识别技术|安巴|打开|人脸

安巴·卡克：是的，比如NIST的“2019人脸识别供应商测试”（Face Recognition Vendor Test，FRVT），它会评估同一个算法对于不同人群的表现。
值得注意的是，这套标准可能只适用于美国独特的社会人口结构，比如种族、年龄、性别等等。如果在亚洲、拉美地区，数据集和标准可能完全不同。
设置准入标准是正确的方向，允许专业机构对准确性进行评估。但目前，包括NIST等标准设置机构在内，他们提出的标准具有多大效力，学界也有不同意见。有研究者发现，一些已经通过了标准测试的算法，在实操环节仍然低于预期。
澎湃新闻：2019年旧金山提出人脸识别禁令后，多个城市纷纷通过了类似的禁用措施，主要禁用范围是警察执法。最近波特兰也提出，禁止私人公司在公共场所使用这项技术。有人担心，一刀切式的禁止是一种“技术恐惧论”。
安巴·卡克：这个问题非常有趣。
首先，媒体报道中使用了一个非常干脆的词，“禁令”（Ban），但许多城市出台的是类似“暂停令”（Moratorium），暂时叫停这项技术的应用，直到有更深入的研究，或更健全的法律，可以切实保障个人权利。
这一轮人脸识别禁用浪潮可能会造成一种印象——这是一个糟糕的技术，但我认为，恐惧论会让人们远离它，而非了解它。
这一轮禁令浪潮背后有很多讨论会，有的由城市的市政部门组织，有的由公民团体组织。很多人试图去理解“黑箱”里运行的技术——算法如何利用我的数据来定义我，并做出关于我的决定。
举个例子，我们正在研究新冠疫情期间，全球的各种防疫软件。中国有健康码，用不同颜色区分你的安全级别，据我了解，持有绿码者可以通行无阻，而红码就无法进入某些地方。人们会关心颜色为何发生变化，如果它对我的判断有误，我能否挑战它，为自己申辩？
类似的讨论在全球各处都能看到，越来越多，透明度和申辩机制都很重要。所以我并不赞同技术恐惧论，相反应该鼓励人们“打开”黑箱。
澎湃新闻：目前，世界范围内，很多数据保护法都强调了“同意”的重要性，但这份报告似乎持有不同观点，为什么？
安巴·卡克：是的，同意并不重要，或者说，它并不如你想象中那么重要。
个人需要有知情权，了解数据具体的使用场景、使用目的，如何获取、存储、处理、销毁。但“同意”并不等于你真的有选择权。
现有的“同意”机制存在问题，比如，当你想要安装一个App，手机会弹出的说明框，你可以选择同意，但如果不同意就意味着你无法使用这个App。不要对“同意”有什么浪漫化的想象，它不能保护我们的权益，相反，它可能会被恶意曲解为一种“授权”。
无论从技术还是法律的专业背景上，个人与科技公司都是不对等的，保护个人信息安全不该是个人的责任，而应是政府的职责。所以相较于一个模糊而形式化的“同意”，政府需要更明确的法规，规定数据的获取及使用。

文章插图
人脸可以作为一种连接个体信息的标识符，与消费习惯、行踪轨迹等互通。图片来源：Flickr
澎湃新闻：最近，中国公布了《个人信息保护法（草案）》，并向社会征询意见。有法律学者提及，需要限定人脸识别技术的使用目的，它应该被应用于身份验证，而非其他商业性目的，比如用户画像和精准营销。《欧盟通用数据保护条例》等法规中也提出了一些原则，比如“必要性原则”、“使用目的限定原则”，实际操作中，这些原则的效力如何？
安巴·卡克：可以拆分成两个问题。
首先要警惕一种简化的对比，认为“识别”（Identification）是高风险的，而身份“验证”（Verification）是100%安全的，但就像我前面提到的那些因素，Aadhaar就是一种身份验证，但很多人无法识别指纹。
使用目的限定原则（Purpose-limitation Principle）非常重要。比如，我可以将我的个人数据放心交给住房委员会，因为我清楚他们会如何使用我的数据。但如果数据泄露，或是被卖给了保险公司，他们可能会对我做出判断，比如拒绝为我贷款。
这个设想很好，但在执行层面上看存在困难。如Google这样的科技巨头，业务涵盖多个领域，彼此之间会不会进行数据互通？比如，我的健康数据会不会分享给保险公司，或者广告精准营销？所以实际操作层面，立法者、公民团体或许需要做更多实践。
澎湃新闻：报告中提到了一个有趣的案例，国际红十字会在分配人道主义救援时使用了生物识别技术，但他们决定放弃建立一个中心化的生物特征数据库。中心化的数据库存在哪些风险？