炒鱿鱼|这个女人被炒鱿鱼结果谷歌1400名员工炸了锅中薪|高薪|员工|结果|女人|ai

这个周末，AI圈的一件事在社交网络引起轩然大波：谷歌AI伦理团队联合负责人Timnit Gebru被解雇。

文章插图
Timnit Gebru
而开除她的，正是大名鼎鼎的谷歌AI负责人Jeff Dean。
双方在一篇论文的内部评审上存在着严重分歧，随后Timnit Gebru的公司账户被切断。

文章插图
一天后Jeff Dean向谷歌员工发布邮件，表示开除Timnit Gebru。
Timnit Gebru毕业于斯坦福大学，博士生导师是知名学者李飞飞。她的主要研究方向是算法偏差和数据挖掘，一直致力于黑人在科技圈的平权，是Black in AI的创始人之一。
Timnit Gebru最知名的研究是她在2018年发现，面部识别软件对黑人女性有高达35%的错误率，而对白人男性几乎完全正确。
几天时间里，双方隔空喊话，声势愈演愈烈，已有1400名谷歌员工和1900名AI学术圈人士对谷歌的行为表示谴责，其中不乏AI圈的大佬。
一向口碑不错的Jeff Dean，一下子成了“众矢之的”。

文章插图
Jeff Dean
这到底是怎么回事？
时间线
12月2日（美国当地时间，下同），Gebru发推文表示自己已经被谷歌解雇，核心矛盾是双方在内部论文评审上的分歧。
Gebru发邮件给公司内部的Brain Women and Allies表达了沮丧的心情，该邮件内容泄露，Gebru被解雇，她对此表示出强烈的愤怒和谴责。
这个事件很快发酵，在Reddit上引发激烈的讨论，评论将近一千条。
3日，Gebru公开了她发给谷歌Brain女员工和其他同事的邮件内容。原来，她一直希望发表她的一篇研究论文，但是一直遭到上级反对。
在邮件里，她还揭露了谷歌对黑人这一弱势群体的不公平对待，以及对AI伦理的不重视。正是因为这封邮件，被爆出“不符合谷歌管理者的期望”，因而被解雇。

文章插图
Jeff Dean很快就在谷歌内部发邮件回应了此事。他解释了Gebru论文没有被发表的原因。并说Gebru提出了一些无理要求，若不答应，她就以辞职威胁。最后，公司决定尊重她辞职的意见。

文章插图
4日，Jeff Dean向公众公开了邮件的内容，并且详细地解释了谷歌内部研究论文的出版方法，以回应双方在论文评审上的分歧。

文章插图
Gebru对他的回应并不买账，立马发出六条推文，指出他文章中漏洞和自相矛盾的地方。

文章插图
5日，Gebru的谷歌上司、著名AI科学家Samy Bengio——图灵奖得主Yoshua Begio的胞弟，在Facebook上回应此事，实名支持Gebru，并且说：“她的慷慨和不懈的行动，提高了沉默者的声音。”

文章插图
“导火索”论文公开
就在双方为AI公平性、伦理等问题吵得不开交之时，外媒“MIT科技评论”得到了让双方开战的论文原文。
论文的疑似原文也在网上公开流传。
这篇论文的标题是“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”（随机鹦鹉的危险：语言模型会太大吗？）。
近年来，科技巨头们都在全力研究自然语言模型，谷歌自己开发的BERT就是其中之一，最近谷歌还宣布英文搜索几乎全部用上了BERT。
Gebru的论文内容谈到了谷歌BERT在AI伦理上的负面影响。因此有人认为，谷歌出于这样的原因压下了论文。
文章在开头提出了一个疑问：我们是否对开发这些模型的潜在风险和减轻这些风险的战略进行了足够的思考？直指自然语言模型的“四大风险”：
1. 环境和经济成本巨大
训练大型AI模型消耗会消耗大量电力，使用NAS方法的语言模型会产生相当于284吨的二氧化碳，相当于5辆汽车在其寿命内的碳排放。
其中，谷歌训练一次BERT模型会产生1438磅二氧化碳，几乎等于纽约和旧金山之间的往返航班的碳排放量。

文章插图
2. 海量数据与不可解释的模型
研究人员从互联网上收集数据，因此种族主义、性别歧视和其他辱骂性语言可能会最终出现在训练数据中。
由于训练数据集非常大，很难对其进行审核，检查这些嵌入的偏差。
另外，模型很难获取与互联网接触较少的群体的语言，这将导致AI生成的语言将同质化，只能反映最富裕国家和社区的做法。

炒鱿鱼|这个女人被炒鱿鱼 结果谷歌1400名员工炸了锅

炒鱿鱼|这个女人被炒鱿鱼结果谷歌1400名员工炸了锅