计算机工程

作者：丁辰晖, 夏鸿斌, 刘渊

单位：1. 江南大学 数字媒体学院, 江苏 无锡 214122;2. 江苏省媒体设计与软件技术重点实验室, 江苏 无锡 214122

关键词：短文本分类,知识图谱,自然语言处理,注意力机制,双向门控循环单元

基金：国家自然科学基金（61672264）；国家科技支撑计划项目（2015BAH54F01）。

针对短文本缺乏上下文信息导致的语义模糊问题，构建一种融合知识图谱和注意力机制的神经网络模型。借助现有知识库获取短文本相关的概念集，以获得短文本相关先验知识，弥补短文本缺乏上下文信息的不足。将字符向量、词向量以及短文本的概念集作为模型的输入，运用编码器-解码器模型对短文本与概念集进行编码，利用注意力机制计算每个概念权重值，减小无关噪声概念对短文本分类的影响，在此基础上通过双向门控循环单元编码短文本输入序列，获取短文本分类特征，从而更准确地进行短文本分类。实验结果表明，该模型在AGNews、Ohsumed和TagMyNews短文本数据集上的准确率分别达到73.95%、40.69%和63.10%，具有较好的分类能力。

来源：2021年第1期

《计算机工程》期刊编辑部

查看计算机工程杂志2021年第1期