计算机工程

作者：任义, 苏博, 袁帅

单位：沈阳建筑大学计算机科学与工程学院, 辽宁 沈阳 110168

关键词：命名实体识别,教育领域,对抗训练,多维度特征提取,多头注意力机制

基金：国家自然科学基金(62073227); 辽宁省教育厅基金(LJKZ0581); 辽宁省教育厅基金(LJKZ0584)

信息技术的发展与进步促使“互联网+教育”成为目前教育领域的研究热点, 教育教学的各个环节都在向智能化的方向发展。中学数学的命名实体识别(NER)任务的研究, 可为后续构建中学数学学科知识图谱及自动问答等任务奠定基础, 进而满足中学生个性化知识获取的需求, 助力新型智能化教育体系的构建。目前中学数学知识语义复杂, 其NER和研究数据较少, 且在当前主流模型特征提取任务中容易忽略掉部分局部特征。为解决该领域的实体识别困难问题, 以自建的中学数学知识语料库为研究对象, 提出一种融合多头注意力的多维度特征NER方法。该方法首先采用BERT进行文本表征预训练得到词向量, 接着引入对抗训练对每个嵌入向量进行扰动, 将得到的对抗样本和嵌入向量传送到多维度特征提取层进行特征提取, 再将输出的特征进行拼接, 通过多头注意力机制进行动态融合, 最终经过条件随机场(CRF)修正后输出。实验结果表明, 该方法在自建Educ数据集上的识别准确率、召回率以及F1值分别达到96.68%、97.71%和97.19%, 证明了该方法在中学数学知识实体识别上的有效性。

来源：2024年第10期

《计算机工程》期刊编辑部

查看计算机工程杂志2024年第10期