偏见|人脸识别登上Nature封面！看脸的世界，AI却心怀偏见中薪|高薪|人脸识别|偏见|封面

文章插图
新智元报道
来源：Nature
编辑：小匀、卫民
【新智元导读】面部识别系统早已在机场、火车站和智能手机上使用，但它们的应用范围正日益扩大到公共和私人空间。本期Nature探讨了这项技术的力量和缺陷。从误判到隐私、道德与人权，面部识别是否被滥用了呢？
人在家中坐，锅从天上来。
威廉姆斯正在密歇根州底特律的家中，一通电话打进来：我们是警察局的，已经掌握了你盗窃的事实，你可以投案自首。
他不以为然，直到一小时后，警车驶来，在妻子和女儿的面前，威廉姆斯被戴上了手铐，以「盗窃罪」被逮捕。
茫然而愤怒的威廉姆斯被押上了警车。
在审讯室，威廉姆斯才知道了自己「犯案」的过程：偷盗了当地的高档商品店铺，偷走了5只价值3800美元的手表。

文章插图
威廉姆斯当然喊冤，一位老老实实的上班族又怎么可能去偷东西呢？
可警察接下来拿出来的「证据」，却让他有口难辩。
这是一张监控画面的截图：画面中的男子身穿黑色衣服，头戴红色帽子，那是一顶圣路易斯红雀队的队帽。
画面中的人与威廉姆斯唯一相同的点就是：他们是身材相似的黑人。
「这不是我！你以为所有黑人都长一样吗？」威廉姆斯愤怒地质问道。
「电脑说是你。」警察说。
根据人脸识别算法，系统给威廉姆斯定了罪。

文章插图
用「面部识别」抓人，42人被标记，8人真有罪
人脸识别技术不只在底特律的警察局使用，事实上，这已经成为警察办案的重要工具。
而且，深受警察们信任。
故事中的主人公威廉姆斯被证明了清白，因为他有比面部识别更强有力的证据——不在场证明。

文章插图
但疑问也来了，面部识别真的奏效吗？毕竟，误判的后果会给被害人带来不可弥补的伤害。
2016年至2019年间，伦敦的首都警察实验室测试了实时面部识别技术，他们在一辆警车的控制室里监控一些试验。

文章插图
「这就像你在电影里看到的一样，」达拉格·默里说，他是尔切斯特埃塞克斯大学的一名法律学者。当摄像机扫描购物中心和广场上的路人时，图像会传回货车内的电脑。
系统在人脸周围画出矩形，并在直播中识别出人脸。然后提取出关键特征，并将其与观察名单中的嫌疑人进行比较。如果有匹配，它就会从直播中提取图像，同时从观察列表中提取图像。

文章插图
图源：《编码偏见》
在查看对比结果后，警方会决定是否冲出去阻止这名「嫌疑人」，或者逮捕他们。
该系统由总部位于东京的科技巨头 NEC 销售，该软件标记出了42个人；警察以「不可信」为由驳回了16个，但还是冲出去阻止了其他人。最后，其中4人在人群中消失了。在剩下的22人中，有8人被证明是的确有罪的。
警察们认为，考虑到系统已经扫描了成千上万张面孔，其准确率还是不错的。

文章插图
2018年，计算机科学家 Timnit Gebru、当时还在纽约市微软研究院的 Joy Buolamwini 发表了一篇开创性的论文。他们发现，在识别女性和有色人种的性别方面，领先的面部识别软件包的表现要比识别男性和白人的表现差得多。
这引起了人们对面部识别的巨大争议。
今年6月，全球最大的科学计算机协会——位于纽约市的计算机协会敦促私人和政府暂停使用人脸识别技术，理由是「基于民族、种族、性别和其他人类特征的明显偏见」。
深度学习引入识别系统，更准确但仍有偏见
十年前，「深度学习」被引入这个领域以来，从那时起，人脸识别的准确性已经有了很大的提高。
但是，这是否意味着它足够好，可以用于低质量的「野外」图像，是一个极具争议的问题。
这大多数都涉及一个多阶段的过程，使用深度学习来训练大量数据集上的大规模神经网络来识别模式。
人脸识别系统通过分析人脸的几何形状来生成「faceprint」，这是一种可以用来识别或确认一个人的生物特征识别系统。另一种用法是面部分析，通过性别、年龄、种族、情绪等标签，给一张面孔下定义。