国内刊号:31-1289/TP
国际刊号:1000-3428
发布日期:
作者:郭江涛, 彭甫镕
单位:山西大学 大数据科学与产业研究院, 太原 030006
关键词:全局节点,多片段,格栅,命名实体识别,主动学习,Transformer结构
基金:国家自然科学基金面上项目(62276162)
现有命名实体识别模型对标注数据量要求较高,基于主动学习的命名实体识别模型需要人工分词造成标注代价大。针对上述问题,提出一种结合全局节点和多片段的格栅命名实体识别模型。将Transformer的全连接结构替换为全局节点和多片段结构,每个节点仅与构造的上下文向量进行注意力计算,全局和片段节点分别获取全局和局部信息,从而降低对标注数据的需求量。对Flat-Lattice结构进行改进,解决现有主动学习策略需要分词的问题,从而在保证模型性能的情况下降低数据标注代价。在MSRA、OntoNotes 5.0、Weibo、PeopleDaily这4个数据集上的实验结果表明,与FLAT模型相比,所提模型达到对应F1阈值所需的标注数据量分别降低了39.90%、2.17%、34.60%和35.67%。
来源:2023年第12期
《计算机工程》期刊编辑部