OpenAI核心人员集体离职创立新公司：人均大神，融资1亿多美金只为“初心”( 二 )

本文插图
2015年底成立的 OpenAI ，其使命是实现通用人工智能，打造一个能够像人的心智那样，具有学习和推理能力的机器系统。成立以来， OpenAI 一直从事 AI 基础研究，主要以 GPT 语言生成模型（特别是 GPT-3）被人们所熟知。
但其实，增强 AI 的可解释性，让它能够更加安全地应用，也是 OpenAI 的研究方向之一。只不过，这部分工作在名气更大的 GPT-3 的面前，似乎显得没有那么重要。
而在去年年底离职的这一批员工，认为随着模型变大、算力变强，通用人工智能离我们越来越近，在可预见的未来就有可能实现——而在这样的前提下， AI 可解释性和安全性变得无比重要。这批员工，被认为是AI领域的“有效利他主义者” 。简单来说，他们不仅认为应该投入重金进行 AI 基础研究让世界变得更好，并且也要注重实际功效。
他们的理念和 OpenAI 并没有本质上的冲突，但是 OpenAI 变得越来越不透明，且逐渐功利化的趋势，令他们感到担忧。一个最直接的例子，就是 OpenAI 尚未解决偏见和安全问题，就把 GPT-3 开发成了商用化的 API ，提供给行业里的大公司使用。

本文插图
【OpenAI核心人员集体离职创立新公司：人均大神，融资1亿多美金只为“初心”】最终，这批核心员工在去年年底集体离职。其中不少人，都参与到了今天硅星人介绍的这家 Anthropic 公司当中。
所以其实这样解释 Anthropic 可或许更准确一些：一家重拾 OpenAI 慢慢忘却的初心的“正统” AI 基础科研机构。
Anthropic 的官网这样介绍自己：我们是一家AI 安全和研究公司，致力于开发可靠、可解释和可调整的 AI 系统。 “今天的大规模的通用（AI）系统能够带来很高的收益，但他们同时却是不可预测、不可靠，和不透明的。我们的使命是在这些问题上做出进步。 ”
“Anthropic 的使命是从事基础科研，让我们可以打造能力更强、更通用、更可靠的 AI 系统，并且应用这些系统从而让人类获益， ”Anthropic 联合创始人兼 CEO Dario Amodei 表示。

本文插图
对于“神经网络到底是什么”这类问题，通常的白话答案是“一种模仿人脑神经工作方式的计算系统” 。然而很多专业人士都不愿意提及的是：我们对人脑的工作原理至今并未完全了解。
而深度学习领域的现状是：我们正在疯狂地把这些“一知半解”的知识用于神经网络，并且把这样开发出来的 AI 系统用于越来越高风险的场景，却又缺乏对可解释性，对安全的思考。