文章插图
图注：可解释模型BiLSTM-Max-PredExpl的架构 。
作者进行了一系列实验 ， 研究了神经模型在测试时生成正确的自然语言解释的能力 ， 以及在训练时提供自然语言解释的好处 。
最后 ， 作者证明了当前的自解释模型为预测生成自然语言解释时 ， 可能会产生不一致的解释 ， 例如“图像中有一条狗”和“ 图像中没有狗” 。
不一致的解释表明 ， 要么解释不如实地描述了模型的决策过程 ， 要么是模型学习了有缺陷的决策过程 。
作者还介绍了一个简单而有效的对抗框架 ， 以进行健全性检查模型 ， 从而防止产生不一致的自然语言解释 。
此外 ， 作为框架的一部分 ， 作者还将解决具有精确目标序列的对抗攻击问题 ， 这种情况以前没有在逐次序列攻击中得到解决 ， 并且可以用于自然语言处理中的其他任务 。 作者将该框架应用于e-SNLI上最先进的神经模型 ， 并表明该模型会生成大量不一致之处 。
2 论文目录
文章插图
文章插图
文章插图
3 Oana-Maria Camburu
这篇博士论文的作者Oana-Maria Camburu是一名牛津大学博士生 。
文章插图
Oana-Maria Camburu的导师是牛津大学计算机科学系的助理教授Phil Blunsom和教授Thomas Lukasiewicz ， 这两位都是牛人 。 Phil Blunsom还就职于DeepMind ， 主要研究自然语言处理 。
文章插图
图注：Phil Blunsom谷歌指数
文章插图
图注：Thomas Lukasiewicz谷歌指数
Oana-Maria Camburu还表示 ， 她之后也将继续在牛津大学做博士后研究 ， 方向仍然是可解释人工智能 ， 期待她的后续成果 。
文章插图
[博文视点赠书福利]
在10月1日头条《秋天的第一本AI书：周志华亲作森林书&贾扬清力荐天池书 | 赠书》留言区留言 ， 谈一谈你对这两本书的看法或有关的学习、竞赛等经历 。
AI 科技评论将会在留言区选出15名读者 ， 送出《阿里云天池大赛赛题解析——机器学习篇》10本 ， 《集成学习：基础与算法》5本 ， 每人最多获得其中一本 。
活动规则：
1. 在留言区留言 ， 留言点赞最高的前 15 位读者将获得赠书 ， 活动结束后 ， 中奖读者将按照点赞排名由高到低的顺序优先挑选两本书中的其中一本 ， 获得赠书的读者请添加AI科技评论官方微信（aitechreview） 。
2. 留言内容会有筛选 ， 例如“选我上去”等内容将不会被筛选 ， 亦不会中奖 。
【打开深度学习黑箱，牛津大学博士小姐姐分享134页毕业论文】3. 本活动时间为2020年10月1日 - 2020年10月8日（23:00） ， 活动推送内仅允许中奖一次 。
文章插图

• 假期弯道超车 国美学习“神器”助孩子变身“学霸”
• 拜拜扫描仪！微信打开这个功能，文档表格扫一扫秒变电子档
• 想自学Python来开发爬虫，需要按照哪几个阶段制定学习计划
• 未来想进入AI领域，该学习Python还是Java大数据开发
• Google AI建立了一个能够分析烘焙食谱的机器学习模型
• 日本工程师：潘多拉魔盒被美国打开，中国办芯片大学只为打破禁令
• 开会再也不用手写，微信打开这个设置，会议纪要一键生成
• 学习大数据是否需要学习JavaEE
• 美国媒体：潘多拉魔盒被中国打开，韩国这项科技超越中国问鼎全球
• 学习“时代楷模”精神 信息科技创新助跑5G智慧港口