智能机器人|在道德困境面前只有机器才会毫不犹疑 |

本文插图

本文插图

本文插图
在小说《我这样的机器》里，英国作家伊恩·麦克尤恩虚构了一个科技发达的20世纪80年代的英国。在那里，人类已经有能力制造出外表与自己别无二致的机器人。
男主人公查理是一个靠炒股挣点小钱的“宅男” ，同时也是个科技发烧友，喜欢尝试全新的高科技产品。有点小钱的他，毫不犹豫地订购了一台名叫亚当的限量版“男性”机器人。
他的如意算盘是：和同居伴侣米兰达一起培育机器人亚当的心智，这样，就有一种三口之家的温馨感，他和米兰达的关系也能更进一步。
然而，查理的如意算盘落空了。他忘了，亚当在物质形态上是个成年男子。让他想不到的是，亚当居然和米兰达谈起了恋爱！这下可好了， “三口之家”的美好设想被“三角恋”所替代。查理因而成了第一个被机器人“戴绿帽”的人类。
而这一切的发生，不只是米兰达对亚当下命令、亚当执行命令这么简单。根据机器人亚当的自述，他爱上了米兰达：
“这事儿我也没办法。 ”他说。
他还没开口解释，我就知道接下来他要说什么。荒谬！
“我爱上她了。 ”
我的脉率并没有增加，但胸腔里心脏感觉不舒服，好像马马虎虎没有完全放到位一样。
我说：“你怎么可能会爱呢？”
“请不要侮辱我。 ”
……
我也轻声说：“你错了。可说的事情还有很多，这不过是第一件。从存在的意义上说，这不是你的领域。无论从哪个可能的角度看，你这都是非法侵入。 ”
查理在这里发表了一种典型的“人类中心主义”观点，即：爱情——或者说整个情感领域都是人类的“保留地” 。无论人造智能体在算力和信息储备上领先人类多少，无论它们进化得多厉害，人类在情感领域的独特性，仍然维持着人类与计算机、机器人、人工智能（无论它们是什么）之间的差异。这是人类最后一道“防火墙” ，守护着人类身为“万物灵长”的尊严。
然而作者麦克尤恩的高明之处就在这里：人类凭什么自以为是地认为，只有人类才懂爱，机器人就不懂?麦克尤恩偏要让机器人懂得爱。
【智能机器人|在道德困境面前只有机器才会毫不犹疑】麦克尤恩不仅要让机器人懂得爱，还要让他阅读文学、创作文学。机器人亚当在休憩、充电时，也要联网搜寻各种作品阅读，哲学、文学、新闻，无所不读；他还非常热情地创作俳句，其作品不乏激情与哲思，比如：
若正义即对等
那爱上一名罪犯
必不是犯罪
她爱的目光
包含了整个宇宙
爱那个宇宙！
但，为什么一定是俳句？也许是因为俳句结构规整，机器人可以轻松地总结出创作规律。近些年，人类已经设计出能够创作格律诗歌的计算机程序了。通过总结前人作品中的规律，对各类词语、意象进行归纳，并计算词频，机器人也能写出非常有“风味”的“唐诗宋词” 。
这种“诗歌”究竟属不属于文学作品的范畴？答案似乎是否定的。按照人类的文学理论，真正的诗歌应当是内心受到触动、对周围世界的材料进行艺术加工后产生的作品。人工智能根据事先设定好的程式，按照一定的主题搜索相应的词语，再将词语排列组合起来……这一切仅仅停留在文本层面的创作，似乎确实缺乏审美的“灵魂” 。查理又一次抓住捍卫人类尊严的机会：
我说：“俳句或许可以，但更长的诗歌、长篇小说、戏剧，算了吧。将人类的经验转变为词语，将词语转变为审美结构，对机器来说是不可能的。 ” 分页标题
她难以置信地看了我一眼：“谁说是人类的经验？”
必须承认，米兰达抓住了重点：对机器人而言，周遭的一切都只是信息而已，生产的也不过是信息而已。至于这种信息是不是所谓“人类经验” ，还是纯粹的文本信息，真的重要吗？
这样看来， “机器人无法创造文学”的说法也是人类苦苦执着于自己区别于（或者说优越于）机器人的证据，而这也被麦克尤恩无情摧毁了。
紧接着，机器人产生了更进一步的进化：他们产生了自我销毁的念头。查理得知，温哥华一台“亚当”因为目睹了某些冲突，决定销毁自己；利雅得两台“夏娃”（女性机器人）被囚禁，相互拥抱着“死”去；而查理和亚当在街头偶遇了另一台“夏娃” ，她表面看上去正常，暗中却启动了某种“自杀”程序……
这些机器人为何要销毁自己？作为同类的亚当也无法解释清楚。但机器人萌生“自我销毁”的念头，说明它们试图掌握自己的命运，对自己的“生死”做出决断，而不愿意由购买了它们的主人摆布。
奇怪的是，查理购买的这台亚当一直没有产生自我销毁的念头。究其原因，可能是查理对他实在太好了——某次查理想要关掉亚当的电源，亚当表示反对并捏碎了查理的手腕，而查理也没说什么。亚当在相当程度上享受着自由，也就不必以自我销毁的方式来反抗受人摆布的命运。
好了，机器人不仅在外表上与人类无异，而且还懂得爱、能创作文学、有生死观念。现在，问题就落到了人类这一边：人类与机器人的界限，到底在哪里？
麦克尤恩给出的答案是：道德困境。
查理从亚当那里得知，米兰达曾经卷入一起强奸案，米兰达谎称一名叫戈林的男子强奸了她，并且成功让法官和陪审团判他入狱。在查理的追问下，米兰达说出自己这么做的原因：米兰达的童年好友玛丽娅姆被戈林强奸，但迫于种种原因，玛丽娅姆不愿意说出这件事，最终自杀；米兰达必须遵守对好友的承诺，守住这个秘密，但她决定以自己的方式让戈林受到法律的制裁，于是，她“引诱”了戈林并控告他强奸，成功地完成了复仇。
米兰达做得对还是不对？每个人类都有自己的看法，但任何一个人类都会承认，在这整个事件中存在诸多道德难题，无论怎么选，都会或多或少伤害一些人，让当事人感到良心不安。
这才是人类的独特之处：我们常常把自己陷入道德困境，但无论如何，我们必须做出决定，并心甘情愿地接受由此导致的后果，以及随之而来的煎熬与不安。道德困境并不意味着人类在道德上软弱，相反，是勇气与担当让人类不断做出一个又一个艰难的决定，而非止步不前。
但对于亚当来说，并不存在这样所谓的“道德困境” 。他对整个事件做出判断的依据，唯有法律而已；没有道德不道德，只有违法不违法。最后，亚当决定把米兰达诬陷戈林的证据交给警方——尽管他说他“爱”米兰达，尽管他知道这样做会让米兰达身陷囹圄。
麦克尤恩笔下的机器人亚当，模糊了人与机器人之间的诸多界限，然而在道德困境面前，还是被打回原形，他无法为情感牺牲非此即彼、非黑即白的判断。而读者们在麦克尤恩的“引诱”下，就快要把机器人亚当当成活生生的人，就快要对他产生共情与理解了，查理却举起愤怒的锤子，狠狠击碎亚当的头盖骨。
我相信，查理并不是像主人那样随意地夺走一个奴隶或者一件商品的“生命” ，而是在经历了道德抉择之后做出的决定。当初亚当介入他和米兰达的感情、捏碎他手腕的时候，他都没有愤而夺走亚当的“生命” ，但现在为了自己，也为了米兰达，他决定“杀死”机器人亚当。 “杀死”一个外表和人类一模一样的机器人，必然会受到心灵的折磨——何况这个机器人和他一起生活了很久。而查理甘愿承受“杀死”亚当的后果：情感折磨、糟糕的经济状况、他人的指责…… 分页标题
米兰达也一样，她坦然地走上法庭，为她当初所伸张的正义付出了代价，而她并不后悔，因为那是她做出的决定，她必须承担后果。
而机器人亚当认为这一切都是理所当然的，他就是这样的机器。
◎徐辰阳