新智元：深度学习要走向更深？Gary Marcus称DL与经典AI结合才是出路( 二 )

问：Danny ，你认同我们应该转向对这些混合模型的研究吗？
Danny：我不同意。我觉得符号主义AI的问题是，它在很大程度上其实是试图模仿人脑的运作模式。这就好比，在18世纪，为了实现更便捷的交通方式，工程师们致力于打造机械马，而不是发明内燃机。因此，我对尝试通过模仿人脑来实现AI这种方式持怀疑态度。
深度学习不一定是灵丹妙药，但是如果有足够多的数据，和正确的神经网络架构，它就能习得我们人类都无法解读的抽象概念。从这个意义上讲，深度学习在解决各种各样的问题方面是非常有效的。
问：听起来似乎你们二人在AI的目标方面出现了意见分歧。
Gary：我觉得这有些讽刺。去年12月，我与加拿大计算机科学家约书亚·本希奥（ Yoshua Bengio）辩论时，他说深度学习唯一的根本就是基于神经学。所以，我已经从深度学习学派中听到了两个完全相反的观点，这有点奇怪，我不认为我们应该太关注这些观点。
相反，我们应该问：“符号对我们来说是否有帮助？”答案绝对是肯定的。世界上几乎所有的软件都是基于符号构建的。所以问题应该是：“从经验上看，深度学习在按照我们想要的去做吗？”到目前为止最大的问题在于它没有模型。 Vicarious （一家由AI驱动的工业机器人初创公司）很好地展示了DeepMind广受欢迎的Atari游戏学习系统，它玩“打砖块”游戏的水平远超人类。但后来，当Vicarious将操纵杆移动了几个像素后，整个过程都崩溃了，因为学习水平太浅了。它没有板、球、砖块这样的概念。为“打砖块”设置符号算法很容易就能补上这些短板。

本文插图
用深度学习训练“打砖块”游戏
【新智元：深度学习要走向更深？Gary Marcus称DL与经典AI结合才是出路】之所以要看向人类，是因为人类在某些方面要比深度学习系统做得更好。这并不意味着人类最终总是正确的榜样。我们希望系统能同时具有计算机和人的某些属性。我们不希望我们的AI系统因为人类有不好的记忆而同样如此。但是，由于人是可以对事物深入了解的唯一系统模型（实际上是我们所拥有的唯一模型），因此我们需要对它认真对待。
Danny：是的，所以这说明了世界上的编程语言是基于符号的，这是正确的，因为它们是为人类实现自己的思想、执行自己的想法而设计的。
深度学习不是人脑的复制。也许您可以说它是受神经领域启发的，但它是一个软件。深度学习还没有真正深入进去。到目前为止，我们用于培训的数据量很有限。我们的结构有限，计算能力也有限。但是关键是深度学习可以学习概念和特征，且这不是人为工程。我认为， Gary的方法与我之间最大的区别是，到底是人类工程师给系统提供理解力，还是系统通过自主学习产生理解力。
问：Danny ，您提到，由于数据和计算的局限性，我们还没有真正挖掘出深度学习的全部潜力。鉴于深度学习的效率如此之低，我们不应该开发新技术吗？目前，为了解锁深度学习的新功能，我们只能大幅增加计算量。
Danny：深度学习的一方面问题是，到目前为止，它实际上确实是基于一种经典方法：生成了一个庞大的训练数据集，然后将其输入。可以真正改善深度学习的办法之一是主动学习过程：训练一个能优化训练数据的网络。你不必仅仅输入让人麻木的巨大数据量来改善学习过程，而是可以针对特定范围不断调整培训数据。
问：Gary ，您指出了深度学习容易受到偏见和对抗攻击的影响。 Danny ，您提到综合数据是解决此问题的方法，因为它们“没有偏见” ，并且您可以运行数百万个模拟，从而可能消除对抗性漏洞。您对此有何回应？