ACL 2019 | 通过问题分解和重新打分，让机器学会做多跳阅读理解
作者丨袁一鸣
学校丨武汉大学硕士生
研究方向丨对话系统、目标检测
本文是由华盛顿大学以及艾伦人工智能研究所联合发表在自然语言处理顶会 ACL 2019 的一篇有关多跳机器阅读理解的文章，其代码已开源在：
概述
本文还介绍了一种新的全局重新打分的方法，考虑每种分解来选择最佳答案，大大提高了整体性能。本文关于 HotpotQA 数据集的实验表明了这种方法达到了最先进的结果，同时为以子问题的形式做出决策提供了可解释的证据。
主要工作
▲ 图1. 系统工作原理
组合问题分解
本文提出了一种使用问题的 span 预测来创建子问题的方法。其核心思想是，每个子问题都可以通过复制和适当地编辑原问题的关键片段来形成，每种推理类型都需要不同的片段。
该方法不需要太多的监督（400 个注释）。注释是通过将问题映射成若干个点来收集的，这些点将问题划分为若干个区间。本文训练一个模型
其中 h 为编码器的输出维数。
令
其中
单跳阅读理解
其中 max 表示输入序列上的最大池操作，
其中
分解打分器
设 t 为推理类型，
其中
在推理过程中，将推理类型确定为
实验结果与讨论
在干扰项设置和完整 wiki 设置中，DECOMPRC 都比所有对比实验表现得更好。此外，虽然 BERT 在单跳阅读理解上训练获得了很高的 F1 分数，但在单跳不可解的样本中，DECOMPRC 的性能大大优于 BERT。
本文还通过收集了一组新的干扰项段落以及创建一组相反的比较问题来评估 DECOMPRC 的健壮性，结果表明 DECOMPRC 健壮性更好。本文还进行了消融实验，结果表明本文基于 span 的子问题和人工编写的自由形式的子问题一样有效。
本文还存在一定的局限性。其一,一些问题不能分解，但是需要隐式多跳推理。其二，有些问题是可以分解的但是每个子问题的答案并不是在文本中明确存在的，而是必须通过常识推理来推断。其三,所需的推理有时超出了本文的推理类型(例如计数或计算)。
启发与思考
在解决阅读理解问题中，本文同样使用了 BERT 对子问题以及段落进行编码，所不同的是本文提出的 DECOMPRC 模型还加入了打分器，增强了模型的可解释性，为其答案推理提供了依据，使得 DECOMPRC 在单跳不可解问题上表现得比传统的 BERT 要好。
参考文献
[1] Min S, Zhong V, Zettlemoyer L, et al. Multi-hop Reading Comprehension through Question Decomposition and Rescoring[J]. arXiv preprint arXiv:1906.02916, 2019.
[2] Yang Z, Qi P, Zhang S, et al. Hotpotqa: A dataset for diverse, explainable multi-hop question answering[J]. arXiv preprint arXiv:1809.09600, 2018.
[3] Peters M E, Neumann M, Iyyer M, et al. Deep contextualized word representations[J]. arXiv preprint arXiv:1802.05365, 2018.
[4] Radford A, Narasimhan K, Salimans T, et al. Improving language understanding by generative pre-training[J]. URL https://s3-us-west-2. amazonaws. com/openai-assets/researchcovers/languageunsupervised/language understanding paper. pdf, 2018.
[5] Devlin J, Chang M W, Lee K, et al. Bert: Pre-training of deep bidirectional transformers for language understanding[J]. arXiv preprint arXiv:1810.04805, 2018.
点击以下标题查看更多往期内容：
让你的论文被更多人看到
如何才能让更多的优质内容以更短路径到达读者群体，缩短读者寻找优质内容的成本呢？答案就是：你不认识的人。
总有一些你不认识的人，知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁，促使不同背景、不同方向的学者和学术灵感相互碰撞，迸发出更多的可能性。
PaperWeekly 鼓励高校实验室或个人，在我们的平台上分享各类优质内容，可以是最新论文解读，也可以是学习心得或技术干货。我们的目的只有一个，让知识真正流动起来。
📝 来稿标准：
• 稿件确系个人原创作品，来稿需注明作者个人信息（姓名+学校/工作单位+学历/职位+研究方向）
• 如果文章并非首发，请在投稿时提醒并附上所有已发布链接
• PaperWeekly 默认每篇文章都是首发，均会添加“原创”标志
📬 投稿邮箱：
• 投稿邮箱：hr@paperweekly.site
• 所有文章配图，请单独在附件中发送
• 请留下即时联系方式（微信或手机），以便我们在编辑发布时和作者沟通
🔍
现在，在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧
关于PaperWeekly
PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域，欢迎在公众号后台点击「交流群」，小助手将把你带入 PaperWeekly 的交流群里。
▽ 点击 | 阅读原文 | 下载论文 & 源码