产业气象站|来自算法正义联盟的信：与面部监控技术的斗争刻不容缓全文共2381字

【产业气象站|来自算法正义联盟的信：与面部监控技术的斗争刻不容缓】全文共2381字，预计学习时长8分钟

文章图片
图源：unsplash
人工智能急速改变着我们生活的同时，也带来了另一些方面的问题，随之也出现了研究这些问题的社会组织，算法正义联盟就是其中一个。
算法正义联盟是一个将艺术和研究相结合的组织，旨在阐明人工智能对社会产生的影响和危害。其使命是提高公众对人工智能影响的认识，为倡导者提供实证研究以支持各项活动，为受影响最严重的社区构建话语权和选择权，并激励研究人员、政策制定者和行业从业者减轻人们对人工智能的偏见和带来的伤害。
在美国反抗种族歧视运动如火如荼的同时，算法正义联盟也从技术的角度阐明了自己的看法，发出了一封紧急信。
算法正义联盟的家人们：
我们的内心有悲伤和哀悼，但也充满了正义的怒火。发生在乔治·弗洛伊德、布雷娜·泰勒、艾哈迈德·阿贝里、尼娜·波普和托尼·麦克达德身上的谋杀案，只是针对黑人、女性、儿童、变性人和非二元性别者无尽暴力行为中最新的一桩。

文章图片
引自JoyBuolamwini的诗——《颈部压力》
我们同时也认识到，即使是在疫情期间，即使面对残酷镇压，席卷全国的大规模多种族动员浪潮仍具有强大的力量和可能性。世界各地的人们正动员起来，要求进行结构改革，投资黑人社区，并对美国警务工作进行深入和有意义的改革。
在经历了数百年的奴隶制、种族隔离、过度监管和大规模监禁、投资削减、流离失所、文化、经济和政治抹杀之后，仅靠刑事司法改革是不足以改变社会的，但它们确实是这一难题的重要组成部分。
但即使是在我们为黑人的生命奔走呼号的当下，地方、州、联邦警察以及毒品管制局(DEA)、海关和边境保护局(CBP)、移民和海关执法局(ICE)等机构和各种美军正在部署广泛的监控技术，用来收集、分享和分析抗议者的信息。

文章图片
图源：unsplash
手机可以是监控工具，这已经不是秘密了。但执法机构同时也在用随身摄像机、智能手机、摄像机和无人机拍摄抗议者，收集他们的照片和视频信息；使用政府和商业软件系统抓取社交媒体上的照片和视频从闭路电视系统收集影像；从媒体报道中截取片段等。
随后，包括明尼阿波利斯警察局在内的许多警察局会分析这些影像片段，试图使用面部识别技术识别个人身份。
面部识别技术为执法机构提供了强大的工具的同时，也导致黑人沦为攻击对象的可能性大大增加。此外，最近由国家标准与技术研究所进行的黄金标准政府研究的性能测试发现，多数面部识别系统在识别黑人面孔时表现不佳，这与算法正义联盟早些时候的发现相呼应。
因此，黑人不仅更容易受到无理的、侵犯权利的监视，也更容易被错误识别，这给了政府新的机会有可能锁定和错误识别与抗议相关事件有关的个体。
我们正经历一场规模空前的起义，在这种规模下，即使是很小的错误率也会导致大量的人被错误地标记和认定为逮捕目标。多数面部识别系统都暗含着种族偏见，对深色皮肤人种的识别准确度较低，黑人更是深受其害。
警察正在部署这些日益复杂的监视系统来对付抗议者。基于历史上执法部门的歧视和过度警务的模式，这些伤害对黑人社区的影响尤为严重。这种模式已经导致频繁以较低的合理怀疑标准进行拦截和逮捕，再加上刑事司法系统对黑人生命的其他形式的歧视，下一步就是犯罪率提高，更多人失业失学，难以维生，甚至失去生命。