国内刊号:31-1289/TP
国际刊号:1000-3428
发布日期:
作者:方义秋, 刘飞, 葛君伟
单位:1. 重庆邮电大学 计算机科学与技术学院, 重庆 400065;2. 重庆邮电大学 软件工程学院, 重庆 400065
关键词:关系抽取,Mogrifier LSTM模型,上下文交互,注意力机制,关系重叠
基金:国家自然科学基金面上项目“面向‘谣言-辟谣-促谣’博弈关系的社交网络谣言信息传播机制研究”(62072066)。
对文本中的上下文信息进行充分利用能够提高关系抽取性能,但当前多数基于深度学习的关系抽取方法仅捕获文本序列中的浅层特征信息,在长序列文本中易丢失上下文信息。针对传统LSTM中输入和隐藏状态之间相互独立且缺少信息交互的问题,建立一种基于Mogrifier LSTM的序列标注关系抽取模型。将由词嵌入、字符嵌入和位置嵌入构成的嵌入层结果输入Mogrifier LSTM层,该层通过在传统LSTM计算之前交替地让当前输入与之前隐藏状态进行多轮运算,以增强上下文交互能力。使用自注意力机制提高模型对重要特征的关注度,同时采用基于关系的注意力机制获取特定关系下的句子表示,从而解决实体关系重叠问题。在关系分类模块,利用Bi-LSTM进行序列标注,将句子中的每个词汇映射为相应的标签。实验结果表明,在NYT数据集上该模型的F1值达到0.841,优于HRL、OrderRL等模型,在存在SEO重叠类型的关系抽取中,F1值仍能达到0.745,所提模型能够在一定程度上解决关系重叠问题同时有效提升关系抽取性能。
来源:2022年第10期
《计算机工程》期刊编辑部