机器之心Pro|7 Papers & Radios | 南加大游戏AI玩转《毁灭战士》;少样本NLP元学习综述( 三 )


推荐:论文作者尹文鹏(Wenpeng Yin)现为 Salesforce 研究科学家 , 他曾任 NAACL 2019 和 ACL 2019 领域主席 。
论文 5:Towards Deeper Graph Neural Networks

  • 作者:Meng Liu、Hongyang Gao、Shuiwang Ji
  • 论文链接:https://arxiv.org/abs/2007.09296
摘要:在这项研究中 , 来自德克萨斯州 A&M 大学的研究者对更深图神经网络的发展提出了一系列新的见解 。 他们首先对这一问题进行了系统分析 , 并认为当前图卷积运算中表示变换与传播之间的纠缠是大幅度降低算法性能的关键因素 。 因此 , 将这两种运算解耦后 , 更深层次的图神经网络可以用来从更大规模的接受域中学习图节点表示 。
此外 , 基于理论和实证分析 , 研究者提出了深度自适应图神经网络(Deep Adaptive Graph Neural Network, DAGNN) , 从而实现自适应地集成以自适应地整合来自大接受域的信息 。 在引用、合著(co-authorship)和共同购买(co-purchase)数据集的实验证实了研究者的分析和见解 , 并展示了他们所提方法的优越性 。
机器之心Pro|7 Papers & Radios | 南加大游戏AI玩转《毁灭战士》;少样本NLP元学习综述
本文插图
研究所提 DAGNN 模型的架构图 。
机器之心Pro|7 Papers & Radios | 南加大游戏AI玩转《毁灭战士》;少样本NLP元学习综述
本文插图
合著和共同购买数据集上各种模型的分类准确率结果对比 , 可以看到 DAGNN 均取得了 SOTA 结果 。
机器之心Pro|7 Papers & Radios | 南加大游戏AI玩转《毁灭战士》;少样本NLP元学习综述
本文插图
不同数据集上 , DAGNN 在不同深度情况下的测试准确率变化曲线 。
推荐:本文已被 KDD 2020 会议接收 。
论文 6:Dynamic Fusion Network for Multi-Domain End-to-end Task-Oriented Dialog
  • 作者:Libo Qin、Xiao Xu、Wanxiang Che、Yue Zhang、Ting Liu
  • 论文链接:https://www.aclweb.org/anthology/2020.acl-main.565.pdf
摘要:在本文中 , 来自哈工大和西湖大学的研究者提出以一种 shared-private 网络来学习共享和特定知识 。 不仅如此 , 他们还提出了一种新颖的动态融合网络(Dynamic Fusion Network, DFNet) , 该网络可以自动利用目标域和每个域之间的相关性 。
实验结果表明 , 该模型优于多域对话领域的现有方法 , 并实现了 SOTA 性能 。 最后 , 即使训练数据很少 , 该模型比以往最佳模型平均高出 13.9% , 从而显示出它良好的可转移性 。

机器之心Pro|7 Papers & Radios | 南加大游戏AI玩转《毁灭战士》;少样本NLP元学习综述
本文插图
多域对话方法 。
机器之心Pro|7 Papers & Radios | 南加大游戏AI玩转《毁灭战士》;少样本NLP元学习综述
本文插图
基准模型、Share-private 模型和动态融合模型的工作流 。
机器之心Pro|7 Papers & Radios | 南加大游戏AI玩转《毁灭战士》;少样本NLP元学习综述
本文插图
在 SMD 和 Multi-WOZ 2.1 上的主要结果对比 。
推荐:本文已被 ACL 2020 会议接收 。
论文 7:A Knowledge-Enhanced Recommendation Model with Attribute-Level Co-Attention
  • 作者:Deqing Yang、Zengcun Song、Lvxin Xue、Yanghua Xiao
  • 论文链接:https://arxiv.org/pdf/2006.10233.pdf
【机器之心Pro|7 Papers & Radios | 南加大游戏AI玩转《毁灭战士》;少样本NLP元学习综述】摘要:现有的基于注意力机制的推荐模型存在一些改进的余地 。 很多模型只在生成用户的表示时应用了粗粒度的注意力机制 , 少数改进的模型尽管在注意力模块中加入了物品的属性(特征)信息 , 即融入了物品的相关知识 , 但仍然仅在用户表示这一端应用了注意力机制 。