国内刊号:31-1289/TP
国际刊号:1000-3428
发布日期:
作者:党小超, 刘涧, 董晓辉, 祝忠彦, 李芬芳
单位:1. 西北师范大学计算机科学与工程学院, 甘肃 兰州 7300002. 金川集团股份有限公司龙首矿, 甘肃 金昌 737103
关键词:命名实体识别,不平衡数据,焦点损失函数,机械设备故障,双向长短期记忆网络,条件随机场
基金:国家自然科学基金(62162056); 甘肃省产业支撑计划(021CYZC-06)
命名实体识别作为构建知识图谱的基础任务, 其识别效果直接影响知识图谱的质量。在实际生产中, 机械故障数据通常包含大量的领域专业词汇, 同时实体类型普遍存在分布不平衡的问题, 这对准确识别故障实体构成了挑战。通用领域实体识别方法在这一领域效果欠佳, 从而降低了知识图谱的质量。为应对上述问题, 提出一种融合焦点损失(Focal Loss)函数和专业词典的实体识别方法。该方法使用Focal Loss函数应对实体类型不平衡问题, 通过引入平衡因子和调制系数, 改进传统的交叉熵损失函数, 提升实体识别效果, 同时将领域专业词汇嵌入到模型中, 进一步提高实体识别性能, 这一词典包含机械故障的领域术语, 有助于模型更准确地识别机械设备故障命名实体。在自建的矿井提升机实验数据集上进行广泛实验验证, 结果证明, 融入Focal Loss后模型的F1值比主流模型BERT-BiLSTM-CRF提高了5.57个百分点, 相比用于解决数据不平衡的典型方法SMOTE效果更优, 在此基础上, 通过嵌入领域词典, 模型的F1值得到进一步提升, 达到89.13%。
来源:2024年第9期
《计算机工程》期刊编辑部