人工智能Yoshua Bengio:注意力是“有意识”AI的核心要素( 四 )
地址:https://openreview.net/forum?id=ryxWIgBFPS
本文插图
最后 , 提一下我想提的工作 , 一篇叫做《Recurrent Independent Mechanisms》的论文里面重新定义了一个新的recurrent neural net架构 , 在这个架构中 , 把recurrent net 分解成更小的模块 , 在每个模块里面 , 它是完全连接在一起的 , 并不是一个同质的网络 。 模块之间 , 有一个注意力机制 , 当然 , 你也可以认为这是意识的集中地 。
本文插图
总结一下 , 在前面的演讲中 , 我试图为深度学习勾勒出一个研究方向 , 为深度学习捕捉「系统1」的知识 。 我发现这里面有很多有趣的研究方面 , 例如系统之外的东西、事物的分布、知识的呈现方式......
解决这些问题 , 知识先验是一个非常好的想法 , 可以让知识分解重组然后对应依赖性的知识 , 并且能够涉及非常少的变量 。 显然 , 这非常有趣 , 因为它允许一个Agent能够快速的适应分布的变化 。
(雷锋网)、(雷锋网)(雷锋网)
- 湖南省人工智能产业联盟每日AI报0510
- 掘金界参与主,5月8日,由全球领先的人工智能平台公司商汤科技SenseTime
- 埃尔法哥哥人工智能与人类的未来
- AI途人工智能时代:AI“创作”的著作权归属
- 前瞻产业研究院2020年中国人工智能行业市场规模及竞争格局分析:百度夺得数桂冠【组图】
- 大科技杂志社想说爱你不容易,人工智能
- 眷诚法务人工智能的法律主体资格分析
- c114通信网1.4亿!新华三首次中标中国移动人工智能通用计算设备集采
- Hornet黄蜂您在日常生活中使用的10个人工智能示例
- 埃尔法哥哥人工智能,将如何引发教育领域系统变革?