深度学习后图灵奖得主Bengio研究核心是什么?因果表示学习( 四 )


因果关系在帮助理解医学现象方面具有巨大的潜力 。 在新冠疫情期间 , 因果中介分析(causalmediationanalysis)有助于 , 在观察到辛普森悖论的教科书式示例时 , 真正查出不同因素对病死率的影响 。
科学应用的另一个示例是天文学 , 研究者们使用因果模型在仪器混淆的情况下识别系外行星 。
多任务学习与持续学习
多任务学习是指构建一个可以在不同环境中解决多个任务的系统 。 这些任务通常具有一些共同的特征 。 通过学习跨任务的相似性 , 系统在遇到新任务时可以更有效地利用从先前任务中获得的知识 。
在这一方面 , 我们显然已经走了很长一段路 , 且没有明确地将多任务问题视为因果问题 。 在海量数据和算力的推动下 , 人工智能在广泛的应用领域里取得了显著的进步 。 这也让人们产生了一个问题:「为什么我们不能直接训练一个巨大的模型来学习环境动态(如强化学习中的设定) , 使其包含所有可能的干预呢?」毕竟 , 分布式表示可以泛化至未见样本 , 如果基于大量干预进行训练 , 则我们可能会得到一个在大量干预之间实现良好泛化的大型神经网络 。
要这么做的话 , 首先如果数据的多样性不够 , 则最糟糕的情况是未见分布偏移造成的误差仍然可能很高 。 此外 , 如果我们拥有一个能够成功应对特定环境中所有干预的模型 , 则我们可能希望在具备相似动态的不同环境中使用它 , 尽管不一定动态完全相同 。
本质上 , i.i.d.模式识别只是一种数学抽象 , 因果关系对于大多数形式的animatelearning而言可能是必不可少的 。 然而直到现在 , 机器学习仍忽略对因果关系的完整集成 , 该研究认为机器学习会从集成因果概念中获得收益 。 研究者认为 , 将当前的深度学习方法与因果关系的工具和思想结合起来 , 可能是迈向通用AI系统的必经之路 。