产业气象站|Bengio首期推特小课堂：从“AI未来五年”谈到“怎么教小孩学机器学习”( 三 ) YoshuaBengio来Twitter传道授业解惑啦

【产业气象站|Bengio首期推特小课堂：从“AI未来五年”谈到“怎么教小孩学机器学习”】（2）如果算法准确率很高，可解释性是否重要？
可以分享一下您对此的看法吗？
YoshuaBengio：机器学习领域将很多研究精力放在泛化的一般形式上，以测试与训练数据拥有相同分布的数据。我认为我们正在转向分布外（out-of-distribution）泛化，这将实现更强的鲁棒性。
此外，从拟合数据分布转向建立其抽象表征以捕获因果结构的方法（使用类似于单词的概念，即语义表征），也应该有助于解释性。
14、VenkateshwarRagavan@ICML’2020：鉴于神经科学对理解人工神经网络产生了深远的影响，还有哪些学科（如物理学等）将在理解人工神经网络黑箱子方面发挥关键作用？
YoshuaBengio：物理学已经对神经网络产生了重大影响，比如基于能量的模型、玻尔兹曼机、熵和互信息的概念，以及物理和因果推理之间的关系。
推荐你看看这个视频：https://www.youtube.com/watch?v=4qc28RA7HLQ
15、UjjwalUpadhyay：有一个观点说，表征学习有助于解决对抗性学习问题，您怎么看？
YoshuaBengio：首先，人类也容易遭受对抗攻击（视错觉、心理偏见等）。其次，我相信，一旦能够训练深层网络捕获对世界的高级抽象理解，我们将得到更加鲁棒的系统。