计算机工程

作者：陈梦萱, 陈艳平, 扈应, 黄瑞章, 秦永彬

单位：1. 贵州大学 公共大数据国家重点实验室, 贵阳 5500252. 贵州大学 计算机科学与技术学院, 贵阳 550025

关键词：生物医学命名实体识别,语素,词义增强,双向长短期记忆网络,注意力机制

基金：国家自然科学基金(62166007)

生物医学命名实体识别(BioNER)是生物医学文本挖掘的核心任务之一，能够为下游任务提供有力支撑。与通用领域相比，生物医学数据中存在更多的未登录词，现有BioNER方法通常将未登录词拆分为语素进行表示学习，这种方法缓解了未登录词表示信息不足的问题，但是破坏了单词的内部信息，对语素进行标签预测时容易出现标签不一致和跨实体标签问题。此外，将单词分割为语素导致句子长度变长，加重了训练中存在的梯度消失问题。提出一种通过BiLSTM-Biaffine结构进行词义增强的BioNER方法。通过BioBERT预训练模型获取语素表示信息，使用BiLSTM-Biaffine进行词义增强，在单词层面利用BiLSTM分别获取语素的前向和后向序列信息，采用Biaffine注意力机制增强其关联信息并重新融合为单词表示，最后通过BiLSTM-CRF模型获取输入句子的标签序列。实验结果表明，在数据集BC2GM、NCBI-Disease、BC5CDR-chem和JNLPBA上，该方法的F1值分别达到84.94%、89.07%、92.14%和74.57%, 与主流序列标注模型MTM-CW、MT-BioNER等相比平均分别提高了2.99、1.84、3.09和1.03个百分点，验证了所提方法在BioNER任务中的有效性。

来源：2023年第10期

《计算机工程》期刊编辑部

查看计算机工程杂志2023年第10期