谷歌解雇AI伦理团队负责人引争议，学界拒审查谷歌论文澎湃新闻记者王心馨人工智能机器学习领

澎湃新闻采访人员王心馨
人工智能机器学习领域里的科学家们表示将拒绝帮谷歌审核论文，直到谷歌改变对前AI伦理团队联合负责人Timnit Gebru的立场。
文章插图
学界科学家拒为谷歌审查论文
选择要在学术会议上发表研究的审稿人通常都是自愿工作，审稿人会根据他们的经验和专业知识，选出那些可以在人工智能顶会发表的论文。根据公开数据显示，谷歌是在人工智能研究会议里贡献最多论文的公司。
文章插图
上周，谷歌AI伦理团队联合负责人Timnit Gebru突然在个人推特上表示，谷歌直接开除了她，她的内部账号直接无法登录。而做出决定的正是谷歌AI负责人Jeff Dean 。双方争议焦点是一篇还在谷歌内部审议的论文。
Timnit Gebru毕业于斯坦福大学，她的导师是人工智能领域知名学者李飞飞。她的主要研究方向是算法偏差和数据挖掘。 Gebru一直致力于黑人在科技圈的平权，是Black in AI的创始人之一。 Gebru最知名的研究是她在2018年发现，面部识别软件对黑人女性有高达35%的错误率，而对白人男性几乎完全正确。
文章插图
这篇引发争议的论文标题为《随机鹦鹉的危险：语言模型会太大吗？》，英文为“On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” 。论文详细介绍了机器学习领域里大型语言模型对边缘化社区的负面影响，并仔细研究了使用大型语言模型相关的风险，例如环境、种族主义，以及基于性别，种族和其他特征的各种持久性的偏见。该论文的合著者包括来自谷歌AI的Mitchell和语言学家Emily Bender ，他们批评大型语言模型的工作于今年早些时候还获得了奖项。
值得一提的是， 2018年，谷歌推出了BERT模型，在自然语言处理领域中带来了里程碑式影响。
【谷歌解雇AI伦理团队负责人引争议，学界拒审查谷歌论文】Jeff Dean在反驳Gebru的邮件中称，这篇论文临近截止日期前一天才提交，而按照公司惯例论文审查需要的时间是2周。同时， Gebru还威胁提出各种条件，否则就辞职，公司在无法满足条件的情况下，只是接受了Gebru辞职的说法。
Gebru则表示自己并没有提出辞职，谷歌却在她休假期间停止了她登入谷歌内部系统的账号。同时也不认同谷歌不发表自己论文的原因。她在发给团队的邮件里称，对谷歌保持人才多样性的做法感到沮丧。
谷歌如何对待Gebru和即将发表的论文，这一事件也提出了科技公司对于学术研究的影响究竟会有多大的讨论。
机器学习社区的领导者拒绝审查来自谷歌人工智能部门的研究，刚好是今年NeurIPS大会开幕之际，这是世界上最大的AI研究会议，会议上发表了有关GPT-3（迄今为止最大的语言模型）的论文，该论文荣获最佳论文奖。
在谷歌公司内部，在谷歌辞掉Gebru仅一天后，谷歌真正变革（Google Walkout for Real Change）组织发表了一份声明，声明中谴责了谷歌“史无前例的研究审查制度” ，并要求谷歌在完全公开的情况下进行论文审查。到目前为止，这份声明已有1600多位谷歌员工和2600多名学术界、民间社会和工业界的支持者签名。
许多AI研究人员与学术机构都保持着联系。有多项研究发现，从学术界到大技术公司，大型企业或初创公司的工作一直在吸引着智力人才。去年10月， Air Street Capital关于AI人才状态的报告发现，在2004年至2018年期间，谷歌从美国大学聘用的终身任职教授数量超过任何其他公司。