「新智元」OpenAI还是CloseAI？记者半年揭秘这个以拯救世界为使命的机构幕后真相

【「新智元」OpenAI还是CloseAI？记者半年揭秘这个以拯救世界为使命的机构幕后真相】

本文插图
新智元报道
编辑：小汐，元子
【新智元导读】OpenAI成立短短四年，就已经成为世界领先的人工智能研究实验室之一。最重要的是，它因其使命而受到崇拜。 OpenAI的目标是第一个创造AGI ，并希望将其利益平均分配给全世界。「新智元急聘主笔、编辑、运营经理、客户经理， -wly）了解详情。」OpenAI成立短短四年，就已经成为世界领先的人工智能研究实验室之一，最重要的是，它因其使命而受到崇拜：它的目标是第一个创造AGI——一种具有人类思维的学习和推理能力的机器。而且该实验室希望将其利益平均分配给全世界。

本文插图
然而经过六个月对OpenAI的深入采访，从MIT科技评论采访人员Karen Hao发回来的一篇特稿再次将OpenAI送上了风口浪尖。经过近三十几次采访，她发现了和宣传中很不一样的OpenAI 。最令人惊讶的是，埃隆·马斯克（Elon Musk）本人在该文章发表后批评了 OpenAI ，并在推特上发文称，他们"应该更加开放" 。关于人工智能的安全性，埃隆说："我无法控制，对OpenAI的了解非常有限。对达里奥的安全信心不高。 "OpenAI还是ClosedAI ，开放还是封闭？采访过程中许多在该公司工作的人坚持匿名，因为他们没有得到发言的授权，或者担心遭到报复。他们的描述表明， OpenAI尽管有着崇高的抱负，但却执迷于保守秘密、保护自身形象和保持员工的忠诚。 OpenAI的声明中称:"我们将强烈鼓励研究人员发表他们的研究成果，无论是论文、博客帖子还是代码，我们的专利(如果有的话)将与全世界共享。 " 但实际上却是， OpenAI的研究领域已经变得越来越私有化， AGI总是保持模糊。没有人能够真正描述它可能是什么样子，或者它应该做什么。OpenAI开始将这些知识视为自己的主要竞争优势。员工和实习生被明确告知不要透露这些信息，而离开的员工则签署了保密协议。一开始，这种程度的保密从来就不是目的，但现在已经成为习惯。随着时间的推移，领导层已经偏离了最初的信念，即开放是建立有益的AGI的最佳方式。现在，保持沉默的重要性给那些在实验室工作或工作的人留下了深刻的印象。自称非营利却投入营利机构阵营被诟病OpenAI精心打造了自己的形象以符合自己使命的要求，并作为一个非营利组织成立。该公司的第一份声明称，这种区别将使其能够"为所有人而非股东创造价值" 。然而，采访人员在OpenAI对过去和现在的员工、合作者、朋友和其他专家进行的近36次访谈——却呈现出一幅不同的画面。该公司公开支持的内容与它在幕后的运作方式之间存在偏差。随着时间的推移，它让激烈的竞争和越来越大的资金压力侵蚀了其透明、开放和合作的基本理念。OpenAI通过设立一个"利润上限"来摆脱其非营利性的地位——一个对投资者回报有100倍限制的营利性机构。不久之后，它宣布了微软的10亿美元投资(尽管它没有透露这笔钱被分配给了微软的云计算平台Azure) 。 OpenAI面临这种取舍，不仅因为它不富裕，还因为它做出了战略选择，试图先于任何人接触AGI 。这种压力迫使它做出的决定似乎越来越偏离其初衷。它急于吸引资金和人才，保护自己的研究以期保持优势，并追求一个计算能力强的战略——不是因为它被视为AGI的唯一出路，而是因为它看起来是最快的。不出所料，此举引发了一波指责，称OpenAI违背了自己的使命， "喊着非盈利的口号，却投向营利机构的怀抱...简直是鬼扯" 。拒绝公开GPT-2源码到底是"噱头"还是经过了"深思熟虑"大多数人第一次听说OpenAI是在2019年2月14日。那天，实验室宣布了一项令人印象深刻的新研究:一种只需按下按钮就能产生令人信服的论文和文章的模型。输入《指环王》里的一句话，或者麦莉·赛勒斯入店行窃的(假)新闻故事的开头，它就会以同样的方式一段一段地吐出文字。研究人员说，这个被称为GPT-2的模型太危险了，不能释放。如果这种强大的技术落入坏人之手，它很容易被武器化，制造大规模的虚假信息。科学家们立即对此表示强烈反对，认为OpenAI是在搞宣传噱头。罗格斯大学研究人工智能产生的虚假信息的助理教授布里特?帕里斯(Britt Paris)表示:"OpenAI似乎试图利用人们对人工智能的恐慌。 " 不久， OpenAI改变了立场，宣布了"分阶段发布"的计划。在接下来的几个月里，它陆续推出了越来越强大的GPT-2版本。在持续不断的宣传指责中， OpenAI坚称GPT-2不是噱头。相反，这是一个经过深思熟虑的实验，是在一系列内部讨论和辩论后达成的。当时的共识是，即使这次的行动有点过火，但它将为处理更危险的研究树立一个先例。但OpenAI与GPT-2的媒体宣传活动也遵循了一种成熟的模式，这让更广泛的AI社区对此番操作产生了怀疑，而且其一系列的保密操作，引发了更激烈的反弹。总之，对于OpenAI最重要的，是首先要弄清楚AGI到底是什么样子。只有到那时才能够"确保我们正在理解后果" 。虽然OpenAI在其使命的路上有偏移，但OpenAI仍然是一个人才和前沿研究的堡垒，充满了真诚地为人类利益而努力工作的人们。换句话说，它仍然有最重要的元素，仍然有时间来改变。新智元小程序新春AI特辑活动#我要直播技术干货，鼠年新春赢万元红包#中奖名单公布，恭喜5位的优秀分享者！【兑换方式】：新智元工作人员将在3月10日前联系中奖人，进行奖金分发，敬请关注。【直播报名】：请添加新智元小程序官方微信账号huxiangjie报名。