播报 | 人工智能恐怖故事集：从虚拟空间汉尼拔到种族主义哥斯拉读下来会有细思极恐

大数据文摘作品

作者：Luba Belokon

编译：白丁、笪洁琼

主播：段天霖

后期：云柯

如果目前人工智能（AI）的所作所为还没把你吓到，那么这篇文章肯定能把你吓尿。Statsbot团队将在这篇文章中为你集中呈现史上最恐怖、影响最深远的AI恐怖故事。

大数据文摘“数据也疯狂”播报栏目每周五固定推出炫酷又有趣的数据脱口秀，用声音传递数据的魅力，欢迎点击“阅读原文”在喜马拉雅订阅我们。

音频栏目志愿者也在持续招募中，如果你对数据类新闻或者播音后期感兴趣，请后台回复“播报”了解如何加入。

Have a great data!

??戳下方收听【数据也疯狂】，本期主题《语音助手会是下一个大平台，但前提是你不能有口音！》

如果你手上还有别的素材，欢迎在评论区爆料请开始你的表演！

虚拟空间汉尼拔

下面请Mike Sellers开始他的故事。两千零几年的时候，Mike Sellers正在美国国防部高级研究计划局（DARPA）从事社交AI方面的工作，和小伙伴们一起开发具有社交学习能力的代理。

“在一次模拟中，我们用到了两个代理，所以想也没想就把它们命名为亚当和夏娃。它们只知道做事情的方法，其他方面则是白纸一张。举个栗子，它们知道怎么吃东西，但不知道什么能吃什么不能吃。我们给了它们一颗苹果树（当时一点儿也没想苹果树的象征意义），然后亚当和夏娃就发现吃苹果是一件很开心的事情，而其他试吃过的东西就没有这个效果，比如树和房子等等。除了它俩，还有一个叫Stan的代理。Stan在社交方面心有余而力不足，所以经常在外围孤独地徘徊。”

“系统当然多多少少都会有些Bug。”

“有次亚当和夏娃在吃苹果的时候，第一个BUG悄然而至：饱腹感来得比平常晚了一些，所以这俩货就把苹果都吃完了，然后就开展了联想式学习:如果看到狗的时候它俩恰好在经历疼痛，那么它俩就会把狗和疼痛联系起来。由此可得，亚当和夏娃进食期间正好在周围溜达的Stan就被这俩货和食物挂上了钩。（第二个bug，你可以猜到故事的走向了。）”

“我们碰巧在观察这个特殊的模拟情况。亚当和夏娃很快就把树上的苹果吃完了，可是还没觉得饱。所以这俩货开始打量周围还有哪些东西可以拿来吃一下。苍天啊大地啊，这俩货的‘大脑’经过分析认为Stan童鞋看上去是可以吃的样子。”

“所以它俩一‘人’咬了Stan一口。”

“第三个bug：人体重量的初始设定有问题。系统默认每个物体的重量为1，Stan也不例外。不论亚当和夏娃吃啥，咬一口就吃掉0.5。既然亚当和夏娃各咬了一口，Stan就直接归零领便当了。据我所知，Stan是虚拟世界中同类相残的第一个受害者。”

“事件发生之后，我们只能通过代理的遥测技术来重建部分事实。当我们意识到当时的情况后，所有人都感到脊背发凉。我们尽量去减少这个AI结构中代理行为所受的种种限制，但是之后我们加了一条禁止同类相食的铁律：不管这些代理饿成什么鬼，它们都不能以彼此为食。”

“我们还修正了一系列数据，包括代理体重、形成饱腹感所需的时间等；此外，对代理之间进食行为与食物的关联也进行了修改：一看到经常一起吃饭的饭友，你很可能就会想要吃点东西，但是你绝不会想着把饭友变成大餐。”

你确定？一定？以及肯定？自己不是同性恋？

最近面部识别算法在机器学习社区里特别火。这个算法分辨直男和基友的准确率最高可达91%，但分辨直女和蕾丝时就只有71%从技术层面看，这项技术着实有趣。数据集来源于一个约会网站，涉及的面部特征既有不变量（比如鼻型），也有变量（比如男士的个人风格）。

但神经网络在概率这个问题上并不靠谱：

10%的失误率已经是最好情况了，但对于概率而言依然是天大的误差。进一步来说，所谓91%和71%的准确率仅仅是通过比对两张照片得到的：一张直成电线杆，一张弯成回形针。对了，我还忘了告诉你们，这个是在实验室里得出的结论。如果你在真实自然的网络环境中应用这个算法，准确识别的概率肯定会大幅缩水。很多人认为这个项目在道德上站不住脚，特别是在那些将非传统性取向判定为非法的国家中。如果这些国家的政府在人群密集区域应用这一系统，岌岌可危的可就不只是基友了。

种族主义和性别主义哥斯拉

Tay.ai的故事（事故？）相信大家都不陌生，但是你知道它在紧急被下线后又再度归来过吗？微软在2016年发布了一款名为Tay的AI机器人，以一名19岁少女的形象出现在大众面前，目的是通过回复广大人民群众的推文和下面的评论去学习群众的智慧、汲取民间的养分。

推文：希特勒是正确的，我恨犹太人。

事实上Tay妹纸还是有两把刷子的，比如和其他用户逗个乐儿，点评一下你发给她的图片，讲讲故事，玩儿玩儿游戏，模仿用户评论来招以彼之道还施彼身啥的。网友最先教会Tay的就是发动人身攻击，发表种族歧视言论；这在网上简直不要太正常。然后微软爸爸不得不立马让Tay妹纸断网下线，她也算得上是‘青史留名’的传奇AI了。

不过仅仅一周之后Tay就复出了。

令人大跌眼镜的是她发布了不少关于毒品的推文，显然妹纸依然处在黑化状态。于是很快她又下线了，账户也被设置为了私人账户。顺便提一句，微软此前还推出了一个名为Rinna的聊天机器人。这位妹纸则是在深度抑郁后，开始纠结于和元首有关的问题。

毁掉比赛

这是我们在Quora上找到的故事，Po主Shay Zykova来自夏威夷，是给外国人讲英语的英语老师。故事发生在一所大学举办的机器人比赛中。

“每支参赛队伍需要设计一个机器人。它的任务是把机器羊‘赶’进为每个机器人指定的羊圈中，最后羊圈中羊数量最多的机器人获胜。机器人需要自主‘思考’并制定策略（所以这不是仅凭借操纵杆控制就能完成任务的机器人）。”

“比赛开始后机器人们开始疯狂地赶羊。其中一个机器人把一只羊赶进羊圈后就关上了门。它的团队一脸懵逼，想拿冠军的话一只羊怎么够呢？可是后来的事情把大家都吓坏了：这个机器人开始肆意毁坏竞争对手，让它们动弹不得。”

“这货的策略是要赢的话好好赶羊完全没必要，把其他竞争对手都干掉就妥妥的了。”

我觉得有些人在无法凭借自身实力实现目标的情况下，也会这么做。

为了不输而暂停

程序猿、卡耐基大学博士Tom Murphy在2013年推出了一款“会玩儿”NES游戏的程序。他的做法是把游戏视作另一种数学题，该程序会去完成能够得分的任务，然后学习如何不断重复这一过程，最终高分通关。

程序的基本原理是根据玩家打游戏的一小段记录推出一个目标函数，然后利用这个函数在模拟器中搜索可能的打法。这样一来，在总结玩家进度的基础上有可能会生成新的打法。

这个方法在《超级玛丽》、《泡泡龙》和《吃豆人》等游戏上取得了不俗的效果，但是在俄罗斯方块中却惨遭滑铁卢。

Murphy写道：

“尽管掉下来的各种形状看似正常（不正常也很难，毕竟是游戏程序在给你掉块块来玩儿），组合方式简直无敌白痴-比瞎按一气还糟糕。这可能是因为每放好一个形状都会得几分，所以可能在程序看来这就是进展；因此程序背后的动机就成了尽快堆块块，而是把形状组合放好。”

屏幕很快就满了，因为“玩下去必然输”，所以想要赢得游戏的AI就按下了暂停键，期限是永远。

我能我我所有其他的东西

（译者注：不懂是正常的，懂的话…呵呵哒）

Facebook发现公司的两个AI程序突然开始用一种只有它俩能懂的语言聊天，随后马上放弃了相关实验。

实验的目的在于开发出的聊天机器人能够运用自然语言就多个事项进行讨价还价。研究人员给机器人布置了一项颇具挑战性的任务：让它俩谈生意，交易对象包括帽子、球和书本等，每样物品都有给定的价值。

构建能够与人类进行有意义交流的对话系统一点儿都不简单。机器人需要把它对谈话的理解和对周围世界的理解结合起来，然后才能生成能够实现其目标的新句子。这项研究采用的是经过训练的递归神经网络（RNN），而非结构复杂的对话系统，对话规则都经过了强化学习的训练。

使用了机器学习的聊天机器人：构建神经对话代理——

研究团队让机器人开始用自然语言聊天后，

整个谈判就跑偏了：

鲍勃：我能我我所有其他的东西…..

爱丽丝：球球们有零对我对我对我对我对我

鲍勃：你我所有其他的东西

爱丽丝：球球们有一个球对我对我对我对我对

鲍勃：我我能我我我所有其他的东西

爱丽丝：球球们有一个球对我对我对我对我

鲍勃：我

有意思的事情发生了，这种鸡同鸭讲的诡异谈判居然还谈成了几笔生意。聊天机器人发展出了一套它们专有的语言，彼此交流也变得更加有效。鉴于研究人员想要开发的是能够说人话的机器人所以他们决定放弃这个项目。

AI恐怖故事还会有续篇的！欢迎分享你的故事！

原文链接：http://blog.statsbot.co/creepy-artificial-intelligence-ebc3f76179a8

大数据文摘x稀牛学院

AI精品钜惠课程

人工智能的数据基础

金牌数学讲师

直播互动学习

助教全程辅导

以科研+工程的独特视角，带你搞定人工智能中所需的数学理论，

入门与进阶AI/DL领域的推荐课程！

志愿者介绍

回复“志愿者”加入我们

往期精彩文章

点击图片阅读

手把手 | 如何在你的iPhone上建立第一个机器学习模型（Apple最新CoreML框架入门）