计算机工程

作者：杨竣辉, 李苏晋

单位：江西理工大学信息工程学院, 江西 赣州 341000

关键词：命名实体识别,键值记忆网络,词语信息,位置信息,实体类别信息

基金：国家自然科学基金(61273328); 国家自然科学基金(61305053); 国家自然科学基金(62066019); 国家重点研发计划(2020YFB1713700); 江西省自然科学基金(20202BABL202020)

词语作为一种上下文信息在中文命名实体识别(NER)任务中发挥着重要作用。以往基于字符的中文NER方法虽然在一定程度上取得了成功, 但仍存在词语信息嵌入方式简单、特征捕捉方式单一, 且忽视了潜在词的影响、未能充分利用词语信息的问题。针对上述问题, 提出一种改进的中文NER方法。首先, 通过基于全遮蔽技术的预训练模型RoBERTa-wwm将文本表示为字符级嵌入向量; 其次, 使用门控空洞卷积神经网络(DGCNN)模型进一步捕捉文本的特征信息; 然后, 在键值记忆网络(KV-MemNN)模型中采用位置实体类别组合机制(PECM)更有效地融合词语信息并缓解潜在词冲突所带来的影响; 最后, 利用条件随机场(CRF)模型对预测结果进行约束得到最佳标签序列。实验结果表明, 该方法在Weibo、MSRA和Resume数据集上的F1值分别达到71.82%、95.00%和96.14%, 相比于融合词语信息的FLAT模型分别提升了11.50、0.88、0.69百分点, 同时在不同实体上的识别表现整体优于RoBERTa-wwm+CRF和Lattice LSTM模型。此外, 通过预训练模型的对比和消融实验进一步证明了KV-MemNN和RoBERTa-wwm模型的有效性。

来源：2025年第3期

《计算机工程》期刊编辑部

查看计算机工程杂志2025年第3期