上游新闻|IBM、亚马逊相继对面部识别说“不”！人脸识别有何原罪？据雅虎新闻网、商业内幕杂志、每日电讯

据雅虎新闻网、商业内幕杂志、每日电讯报等报道，继“蓝色巨人”IBM高调宣布不再提供任何人脸识别服务和人脸分析软件、不会继续研发相关技术、正式退出市场之后，亚马逊公司周三也宣布，将暂停警方使用其人脸识别技术一年。

文章图片
▲黑人弗洛伊德之死引发美国民众对人脸识别系统的关注
在科技巨头争相拥抱新的技术、抢占AI高地的大潮下，居然有人主动放弃，实在是在点反常。是什么迫使IBM、亚马逊做出这样的决定，人脸识别技术有何原罪？
IBM、亚马逊对人脸识别说“不”
据报道， IBM的这一决定来自于IBMCEOArindKrishna提交给几位美国参议员和众议员的一封信。
从信中的内容来看，放弃人脸识别业务的举动，是IBM因黑人弗洛伊德之死，抗议种族主义的种种举措的其中之一。
而亚马逊2019年曾让股东就面部识别技术进行投票，其中有部分股东出于公民权和隐私权的担忧，认为应该禁止将面部识别技术出售给政府机构。
但实际上， IBM和亚马逊的决定，是对美国社会普遍反对人脸识别的情绪的一种迎合，也是一种政治正确。

文章图片
▲2018年10月31日，示威者将亚马逊首席执行官贝佐斯的照片贴在脸上，抗议其人脸识别系统。
人脸识别在美成众矢之的
具体来说，黑人弗洛伊德之死，让美国社会继续反思警察执法问题，并由此引申到警察在执法中所采用的技术——其中最被严重诟病的，就是人脸识别。
人脸识别首次因为“种族歧视”问题被关注是在2018年，彼时人们利用亚马逊人脸识别系统对535位美国国会议员的照片进行识别。结果令人惊讶，有28位国会议员的识别结果为“罪犯” ，这28人中包括11名有色人种。 2018年JoyBuolamwini和TimnitGebru的研究首次揭示了商业人脸识别系统（包括IBM的）的缺陷：人脸识别针对黑人、女性的错误率高达21%-35% ，而针对白人、男性的错误率则低于1% 。

文章图片
2015年一位软件工程师报告称， GooglePhoto的图像分类算法将非裔美国人分类为“大猩猩” 。
种族歧视之外， “隐私安全”也是人们不待见人脸识别技术的主要原因之一。在过去的两年多时间内，包括亚马逊、微软、谷歌等在内，均被曝出与政府之间存在“人脸识别”技术相关的项目合作，由此引发了人们对“军事与工业结合体”的担忧。

文章图片
在一些民众看来，军事和工业结合体会被作为不正当杀人利器，以及这次合作背后可能引发的机器学习发展与道德问题，譬如打破隐私及实用性之间的平衡。
美多个地方公共部门已禁用人脸识别技术
早在2018年，微软总裁BradSmith就提议，人们应当把面部识别结果定为“高风险场景” ，特别是那些最终可能被用来限制人类行动的应用。使用面部识别的组织应当遵守关于性别、人种和种族的反歧视法案，而且应当对其AI限制实现“透明”公开。
“技术可能会带来一种新的大规模监视。这种监视可能被州政府和国家政府用来监视任何地方的每个人。 ”Smith强调表示， “如果我们不谨慎考虑这些问题，那么2024年的我们就将面临《1984》书中描述的那种生活。 ”
多年来，美国民众反对人脸识别的呼声也得到一些回应。据了解，在美国多个城市包括旧金山市在内，已经有多个地方公共部门禁用了人脸识别技术。