人工智能|国外 AI 圈闹翻天了!谷歌黑人女性 AI 伦理研究员“被离职”引发轩然大波

谷歌摊上事了。
昨天,谷歌“伦理人工智能团队”(Ethical AI Team)的技术联合负责人 Timnit Gebru 在个人推特上发布消息称:
人工智能|国外 AI 圈闹翻天了!谷歌黑人女性 AI 伦理研究员“被离职”引发轩然大波
文章插图
自己突然被谷歌人工智能负责人 Jeff Dean 开除,个人公司账户也已经被公司切断。
同时,她表示,解雇原因是她给谷歌大脑(Google Brain)同事发了一封邮件,邮件内容涉及 AI 伦理,批评了谷歌不负责任的多样性、公平性和包容性 AI 运作。而她的领导 Jeff Dean 则对这一结果作了火速处理,只用一封邮件就解雇了她。
此事一出,立刻引起网友热议,众多谷歌员工和学术界科学家都为其站台。
其中包括一个由谷歌现任及前员工联合创立的“Google Walkout For Real Change”组织,他们已经在博客上发起了签名运动,以示对 Timnit Gebru 的支持:
人工智能|国外 AI 圈闹翻天了!谷歌黑人女性 AI 伦理研究员“被离职”引发轩然大波
文章插图
截止到今天,已经有1200 多名谷歌员工和 1500 多名学术界签署了一份请愿书,要求给 Gebru 复职。
歧视女性人权?Jeff Dean 表示不背锅首先来认识一下事件主人公。
Timnit Gebru 是谷歌顶尖的人工智能研究人员,致力于解决人工智能算法目前存在的偏见等问题,同时还从事数据挖掘领域的工作。
人工智能|国外 AI 圈闹翻天了!谷歌黑人女性 AI 伦理研究员“被离职”引发轩然大波
文章插图
同时也是著名的技术多样性倡导者,并联合创立了一个名为“Black in AI”的黑人研究人员社区。一直以来,她都在直言不讳地对科技公司对待黑人员工的方式提出批评。
需要注意的是,她曾与 LeCun 发生过争执,在 AI 圈内小有名气。
当地时间 12 月 3 日晚,谷歌 Ethical AI 团队联合负责人Timnit Gebru发推表示她被谷歌 AI 负责人Jeff Dean 火速解雇。
具体因为什么呢?
根据 Reddit 上曝出的 Gebru 与 Dean的邮件详情,事件的起因是 Gebru 想要发表论文,但被谷歌内部否决、要求撤稿,Gebru 尝试沟通无果,控诉谷歌不尊重边缘群体的人权。
人工智能|国外 AI 圈闹翻天了!谷歌黑人女性 AI 伦理研究员“被离职”引发轩然大波
文章插图
邮件中谈到,Gebru 近日在写一份此前由 Katherine 和 Daphne 撰写的论文。
她们在写论文时,发现一个令人失望的现象:谷歌在过去的一年内解雇了大约 14% 的女性员工。Gebru又进一步了解到,在解雇 14% 的女性的同时,Samy又增聘了39% 能力并不够出色的员工。
基于这个数据的悬殊,Gebru 建议谷歌女性:停止手上的工作,因为她们的工作并不为人重视。
同时,在近期的一次关于黑人的调查中,Gebru 也发现了该群体之间弥漫的愤怒情绪,但他们只能如往常般保持沉默。
所以在 Gebru 看来,她的论文被否定也有其中一部分的原因。
邮件末尾,Gebru 呼吁谷歌内部的女性群体向领导层问责,并思考如何向他们施加外部压力,比如写信给Congressional Black Caucus 等组织。
人工智能|国外 AI 圈闹翻天了!谷歌黑人女性 AI 伦理研究员“被离职”引发轩然大波
文章插图
很快,Jeff Dean 也就此回应称:这其中并没有女性歧视的原因。
人工智能|国外 AI 圈闹翻天了!谷歌黑人女性 AI 伦理研究员“被离职”引发轩然大波
文章插图
不合格的原因是这篇论文忽略了太多相关研究,比如该论文讨论大模型对环境的影响,却忽略了其他研究显示的大模型的更优秀的性能。论文挑起对语言模型偏见性的忧虑,却没有考虑近期减轻环境负担的研究。
人工智能|国外 AI 圈闹翻天了!谷歌黑人女性 AI 伦理研究员“被离职”引发轩然大波
文章插图
在邮件中,Jeff Dean 也表示,他们并没有要执意开除 Gebru,只是尊重她本人的决定。
Jeff Dean 提到,在对 Gebru 的论文提出意见后, Gebru 也回复了一封邮件,邮件内容是让我提交一些信息,包括论文评审内容、每一个人的身份以及其他确切的反馈。
Gebru 说,如果我不满足她的要求,她就会离开谷歌,并停止相关工作。我们接受并尊重她的决定。
尽管如此,网友们对此回应似乎依旧不能信服。
一个很重要的原因是 Gebru 女性黑人的特殊身份。
2016 年 AI Now Institute 的一份报告发现,谷歌 AI 研究人员中有 10%是女性。谷歌的 2020 年多元化报告显示,约有三分之一的谷歌员工为女性,而 3.7%为非裔美国人,5.9%为拉丁裔,0.8%为美洲印第安人。
谷歌员工和科学家发起声援 Gebru 活动在以上众多因素的影响下,吃瓜群众们似乎已经不在乎在此事中孰对孰错的问题,他们转而去关注更多人权以及种族主义的更为严重的问题。
因此,昨天事件持续发酵后,引起了谷歌员工和科学家的高度重视。