计算机工程

作者：张家熔, 苑津莎, 许珈宁, 罗志宏

单位：1. 华北电力大学 电子与通信工程系, 河北 保定 0710002. 国网阜新供电公司 电力调度控制中心, 辽宁 阜新 1230003. 华北电力大学 自动化系, 河北 保定 071000

关键词：命名实体识别,多元信息嵌入,图注意力网络,Transformer架构,注意力机制

基金：中央高校基本科研业务费专项资金(2020JG006)

自动抽取力学问题中的关键实体是力学问题自动解答的重要手段。然而，与开放域相比，力学问题具有大量的专业词汇和较长的实体，其识别难度高，准确率低。针对该问题，基于图注意力网络（GAT）和Transformer编码器提出一种用于力学问题关键实体抽取的实体识别算法。针对汉语的特点设计一个包括字符信息、词汇信息和部首信息的多元信息嵌入用于增强中文句子表示。提出结构图和语境图两个图模型对中文句子进行建模，并设计一种协同架构，该架构使用两个独立的GAT整合多元信息并学习句子的上下文信息。为平衡词汇信息与部首信息对中文字符的影响，提出一种协同Transformer架构，该架构由字符-词汇Transformer与字符-部首Transformer构成，并增加词汇-部首注意力偏置，从而增强模型的识别能力。在自建的数据集上进行多组对比实验，结果表明，在力学问题实体识别任务中，相对于WCGCN算法，该算法在精度、召回率和F1值上分别提高1.92、0.99和1.44个百分点，能够有效提取力学问题中的关键信息。

来源：2023年第7期

《计算机工程》期刊编辑部

查看计算机工程杂志2023年第7期