更针对性|人脸识别60年，安巴·卡克：行动者们正在打开“黑箱” 人脸识别技术|安巴|打开|人脸

文章插图
制图：冯婧
围绕人脸识别技术有诸多讨论：它的识别准确性如何？数据会“歧视”哪些群体？作为敏感信息，“人脸”是如何存储的？使用后，数据会被销毁吗？
经过六十年的发展，它不再是加州一间小办公室里技术探索者的古怪实验，人们试图去理解，“黑箱”里有什么。
“越来越多人开始关注，算法如何利用我的数据来定义我，它将如何影响政府和商家，他们会以此做出哪些关于我的决定”，长期关注数据法的研究者安巴·卡克（Amba Kak）在接受澎湃新闻（www.thepaper.cn）专访时这样表示。
卡克是纽约大学AI Now研究中心的全球战略及项目总监，今年9月，他们发布了一份报告，梳理全球范围内人脸识别技术引发的争议，并评估了现有数据保护法及相关条例的效力，报告提出，仍有诸多问题未能得到有效回应，即便是被称为“史上最严格数据保护法”的欧盟《通用数据保护条例》（GDPR）。
澎湃新闻：谈谈这份报告的缘起吧。
安巴·卡克：差不多一年前，我们启动了这个项目。当时我们能感受到，世界范围内，围绕生物识别——特别是人脸识别，各种讨论达到了高峰。热度既来自这项技术的大规模应用，也暗含人们对它的担忧。人们期待，能有更针对性的法律规范这项技术。
实际上，全世界范围内，大约有130个国家拥有数据保护法，它们都涵盖了生物特征数据，一些地区有更针对性的法律，比如美国伊利诺伊州的《生物识别信息隐私法》(BIPA)、欧盟的《通用数据保护条例》（GDPR）。但深入研究，这些法律条文仍有局限，比如，它们仍然无法有效解决人脸识别技术的准确性、数据歧视等问题。
这份报告收录了8个来自世界不同地区的案例，我们希望梳理目前生物识别技术在应用中的诸多困境。
澎湃新闻：人们对于人脸识别技术的担忧似乎存在一些地区差异，比如，美国的研究和行动者聚焦在种族歧视问题，人脸识别技术对于少数族裔的误识率很高，当它应用于警察执法会造成偏误。而中国更关注数据隐私和安全性等问题。
安巴·卡克：确实有差异，但我认为，其中存在共性。
先谈“歧视”，很有趣的一点，谈及这个词，很多人第一反应是种族，特别是美国，如你所说，目前很多研究都集中在这一领域，它确实引发了一些误捕事件，所以才有了之后许多城市的禁令，警察执法不得使用这项技术。
但“歧视”还会涉及更多群体，比如女性、老年人。举个例子，我来自印度，2009年印度政府启动了Aadhaar项目，计划为11亿人口建立一个生物特征数据库，每个公民的指纹、虹膜，甚至人脸信息都将纳入其中，作为公民身份的唯一标识符（编者注：identifier，指用来标识某个实体的一个符号，来源于计算机编程语言），与教育、医疗、保险、金融等社会生活的方方面面绑定。
Aadhaar的初衷之一是为了减少社会福利的冒领、漏洞，减少中间环节，避免因官员腐败，救济无法到达需要的人手中。但很快人们发现了各种问题。许多底层劳动者由于长期劳作，指纹严重磨损，难以被识别，无法获得救济。
Aadhaar打造了一套唯一身份系统，但这些群体却被排斥在外。除此之外，Aadhaar计划还有很多问题，比如数据安全，我们的报告中也有一章专门讲Aadhaar计划。
或许相较于“歧视”，更准确的词是“排斥”（exclusion），如果你生活在一个人口结构并不那么多元的社会，种族歧视似乎离你较远，不如想想排斥，你是否被某种系统排斥在外了。

文章插图
Aadhaar计划建立了一套生物特征数据库。图片来源：Getty
澎湃新闻：比如数字鸿沟也会造成排斥？新冠疫情期间，中国的“健康码”发挥了很大作用，但对于一些不习惯使用智能设备的群体，他们的生活也遇到了障碍。
安巴·卡克：没错。几乎每个地区都有数字鸿沟，可能是某些地区的网络覆盖率有限，也可能是某个人群不习惯使用智能设备。
Aadhaar使用唯一识别码（UIDAI）与社会福利绑定，可以追问两个问题，涉及到社会福利领取这种社会基础服务时，是否可以保留其他“低技”的、非数字化的方式？技术的初衷是为了提高效率，但对于某些群体而言，它恰恰起到了相反作用。另一个问题是，当个人对识别结果存疑时，是否有申辩机制？
澎湃新闻：人脸识别的准确性引发了各种讨论，技术供应商往往宣称很高的准确性，但一些独立测评显示，对于某些群体误识率更高，可以对准确性提出“行业标准”吗？报告中提到了一点，立法者开始意识到需要对技术供应商进行审查，如美国国家标准技术研究院（NIST）会设置基准，他们有自己的数据集，可以进行独立测试。