偏见|人脸识别登上Nature封面！看脸的世界，AI却心怀偏见( 三 ) 中薪|高薪|人脸识别|偏见|封面

「面部识别」滥用带来对隐私、道德和人权的担忧
一些法规提案要求当局建立准确性标准，并要求人类审查任何算法的结论。
但是，渥太华互联网基金会 Mozilla 的技术研究员、专门审计面部识别系统的德博拉?拉吉(Deborah Raji)表示：基于 NIST 基准的标准本身太低，不足以证明部署该技术是合理的。

文章插图
Deborah Raji 专长于审计面部识别系统
今年，Raji，Buolamwini 和 Gebru等人发表了另一篇有关商业系统性能的论文，他们指出，尽管一些公司在对浅肤色和深肤色面孔进行性别分类方面有所改进，但他们仍然无法准确猜测一个深肤色面孔的年龄。
「目前的评估过程非常不成熟，每当我们建立了一个新的评估维度，我们就会发现，这个行业的表现并不像它认为的那样。」Raji 表示。
「重要的是，公司应该更多地披露它们如何测试和训练面部识别系统，并与使用该技术的社区进行磋商。」
纽约大学人工智能研究所的法律学者 Amba Kak 认为，技术标准不能阻止面部识别系统被用于歧视性用途。
「这些系统是否会成为警务中普遍存在的歧视做法的另一个工具? 」卡克补充说，「人类操作员往往最终只是确认系统的偏差，而不是纠正它。」

文章插图
诸如苏格兰场的外部审查等研究表明，人类往往高估这项技术的可信度，即使他们看到了电脑的虚假匹配旁边的真实面孔。
Kak和其他人支持暂停使用任何面部识别技术，这不仅是因为该技术还不够好，还因为需要就如何防止其被滥用进行更广泛的讨论。
默里表示，「这项技术将得到改善，但是人们仍然怀疑对无辜的人们进行永久搜索的合法性，以及把人们列入观察名单的标准。」
对隐私、道德和人权的担忧正在增长。
印度有世界上最大的生物识别计划，其中涉及使用面部识别来建立名为Aadhaar的巨型国家身份证系统。
生活在印度的任何人都可以去Aadhaar中心拍照，系统会将该照片与13亿人的现有记录进行比较，以确保申请人尚未使用其他名称进行注册。

文章插图
「这是一个令人难以置信的体系，」曾担任该体系顾问的贾恩表示，「它的美妙之处在于，它确保了一个人只有一个身份证。」
但批评人士称，这项法案将非身份证持有者变成了二等公民。还有人称，这项法案被用来在选举前将合法公民从选民名单中清除。
纽约大学(New York University)计算机科学家、现代人工智能研究所(AI Now Institute)联席主任凯特?克劳福德(Kate Crawford)表示:
「在历史的这一点上，我们需要更加怀疑那些声称我们需要更加精确的公共监控形式的说法。」
2019年8月，克劳福德呼吁政府暂停使用面部识别算法。
【 偏见|人脸识别登上Nature封面！看脸的世界，AI却心怀偏见】但与此同时，在宣布其试点项目成功后，苏格兰场在一月份宣布，它将开始在伦敦各地部署实时面部识别系统。