新智元：深度学习要走向更深？Gary Marcus称DL与经典AI结合才是出路( 三 )

Gary：单靠数据还不能解决。综合数据不会帮助解决诸如贷款或工作面试的偏差等问题。真正的问题在于，这些系统倾向于永久保留历史原因产生的偏见。综合数据不是解决方案，这与构建复杂到足以理解我们要替代的文化偏见的系统恰恰相反。
对抗攻击是另一种事情。数据可能会对其中一些有所帮助，但到目前为止，我们还没有真正消除种类繁多的对抗攻击。我给你看了那个例子，一个棒球上面沾着泡沫，就被系统识别为浓咖啡。如果有人事先考虑用模拟意式浓缩咖啡制作棒球，并仔细打上标签，那就好了。总会有令人意想不到的情况发生，如此一来，纯粹由数据驱动的系统将继续受到攻击。
Danny：无论你做什么，现实世界的数据都会有偏差。在特定环境中收集数据，例如自动驾驶汽车，街道上可能有90％的成年人和10％的儿童。这是正态分布。但是，机器学习系统需要对数量平均的成人和儿童进行训练，以安全地避免撞到他们当中的任何一个。因此，使用综合数据，如果足够小心，你基本上可以平衡并避免出现偏差。这并不意味着你不会创造新的偏见，对这一点必须小心。当然，隐私问题已经被解决，因为任何培训数据中都没有真正的人或孩子。
至于对抗攻击的例子，许多情况下的问题是，它们基本上是针对弱计算机视觉模型开发的，这些模型是根据网上的一两千万张图像进行训练的，这个数据量远不足以训练出一个一般化的模型。我们需要大量具有惊人的域随机化的数据集，才能对这些计算机视觉模型进行一般化概括，以使它们不会被骗。
问：您认为AI领域在未来最令人兴奋的方面是什么？
Gary：去年，混合动力车出现了真正的发展。人们正在探索前所未有的新事物，这令人兴奋。
Danny：我认为是多模型系统，它由许多用于感知和行为的不同模型组成，共同解决实际的复杂任务。
https://www.technologyreview.com/s/615416/ai-debate-gary-marcus-danny-lange/