计算机工程

北大核心,CA,INSPEC,JST,Pж(AJ)

国内刊号:31-1289/TP

国际刊号:1000-3428

计算机工程杂志2020年第2期:基于多层注意力机制的回指消解算法

发布日期:

作者:刘雨江, 付立军, 刘俊明, 吕鹏飞

单位:1. 中国科学院大学 计算机科学与技术学院, 北京 100049;2. 中国科学院沈阳计算技术研究所 研究生部, 沈阳 110168;3. 中国地质图书馆信息技术研究中心, 北京 100083

关键词:指代关系,注意力机制,显性指代,零指代,多层注意力机制模型

基金:国土资源部大数据科研专项(201511079-3)。

在信息抽取过程中,无法被判别的回指易造成信息抽取不完整的情况,这种指代关系可通过分析当前语境下的指代部分、被指代部分、周围的信息及原文内容生成的唯一判别信息进行判断。为此,构建一个多层注意力机制模型,在不同层次上对上述信息进行基于注意力机制的概率计算,利用最终结果判别回指关系是否成立。在指代部分与被指代部分向量化后,通过2个注意力层上的4次概率计算,使每一个训练结果在判别之前都具有唯一性。在OntoNotes 5.0数据集上的实验结果表明,该模型F值在显性指代和零指代均存在的条件下为70.1%,在存在零指代的条件下为60.7%,高于尹庆宇等人提出的模型。

来源:2020年第2期

《计算机工程》期刊编辑部

查看计算机工程杂志2020年第2期

联系我们

  • 地址:上海市嘉定区澄浏公路63号
  • 电话:(021) 67092217
  • E-mail:ecice06@ecict.com.cn

咨询工作人员