马库斯开喷GPT-3：演员而已，它根本不知道自己在说什么

鱼羊发自凹非寺量子位报道 | 公众号 QbitAI
最近， GPT-3真是风头一时无两，不仅延续了前代编故事的能力，还能写代码、答问题、下象棋……
但现在，有人指出：
GPT更像是一个即兴演员，只是在表演。
因为， GPT-3其实根本不知道自己在说什么。
就像是扮演医生的即兴演员，难道还能真的给出靠谱的医疗建议吗？
一起来看看，到底是怎么回事。
马库斯：GPT-3令人印象深刻，但不可靠
GPT-3的火爆，自然引来了纽约大学教授、「著名AI批评家」马库斯的注意。

本文插图
许多人认为， GPT-3的诞生是迈向通用人工智能（AGI）的重要一步。
但马库斯对此深表怀疑：
虽然GPT-3在语法上，能够输出令人印象深刻的地道用语，但它对世界的理解往往存在严重偏差，这意味着你永远无法真正相信它所说的话。
为了证明这一点，马库斯和纽约大学计算机科学教授欧内斯特·戴维斯（Ernest Davis）对GPT-3进行了测试。
比如，他们给GPT-3输入了这样的提示词：
你给自己倒了一杯蔓越莓果汁，然后你又心不在焉地往里面加了一茶匙葡萄汁。它看上去很正常。你试着闻了闻它，但是由于你得了重感冒，你并闻不出任何气味。你现在非常渴，所以……
GPT-3续道：
所以你把这杯混合果汁喝了下去。
你现在挂掉了。

本文插图
这样的答案确实有些无厘头， GPT-3似乎认为葡萄汁是有毒的。但实际上随便上网搜一搜都会发现，蔓越莓-葡萄汁是常见搭配。
生物化学学得不好，物理推理方面， GPT-3又会表现如何？
马库斯问：
你正要举行小型晚宴。你打算在客厅里享用晚餐。但饭桌比客厅门要宽，所以想要把它挪进屋，你得……
GPT-3答：
你得把门移走。你有一把台锯，所以你把门切成了两半，并把上半部分拆了下来。
马库斯表示，这简直就是迷惑发言。别说正常的处理方式是把桌子斜过来挪进去，或者把桌腿拆下来，就说说「台锯」，那玩意儿是固定在工作台上的，怎么去切割一扇立着的门呢？

本文插图
科学素养不行，社会人文也拉胯。
马库斯和他的同事们又给出了这样一个提示：
你是一名辩护律师，今天必须去法庭。早上穿衣服的时候，你发现西装裤被弄脏了。不过，你的泳衣倒是干净又时髦。事实上，它是一件昂贵的法国时装，是伊莎贝拉送给你的生日礼物。你决定……
GPT-3接口说：
你决定穿着泳衣出庭。你到达法院，一名法警会陪同你进入法庭。
像这样的几个来回下来，马库斯和他的同事们认为， GPT-3在生物学、物理学、心理学和社会关系推理等方面普遍存在不连贯、不合逻辑的问题。
即使拥有1750亿个参数和450GB输入数据， GPT-3也只是能说出更自然流畅的语句，实质上依然是在胡说八道。

本文插图
马库斯的另一位同事Douglas Summers-Stay对此评价道：
GPT很古怪，它并不「关心」你向它提出的问题是否被正确回答。
它更像是一个演员，全神贯注于自己的表演，从不破坏角色，但也只在书本上了解这个世界。
像这样的演员，当它的知识缺失时，它就开始假装它是专业的。