计算机工程

北大核心,CA,INSPEC,JST,Pж(AJ)

国内刊号:31-1289/TP

国际刊号:1000-3428

计算机工程杂志2023年第10期:基于多模型加权组合的文本相似度计算模型

发布日期:

作者:刘栋, 杨辉, 姬少培, 曹扬

单位:1. 中国电子科技集团公司第三十研究所, 成都 6100412. 中电科大数据研究院有限公司, 贵阳 5500223. 提升政府治理能力大数据应用技术国家工程实验室, 贵阳 550022

关键词:文本特征,多词嵌入,多层次比较,浅层语法树,线性加权,文本相似度

基金:国家自然科学基金企业创新发展联合基金(U20B2049); 提升政府治理能力大数据应用技术国家工程实验室2018—2019年开放基金项目(w-2019010)

针对传统文本相似度计算模型存在的未考虑语义及结构信息、容易忽略文本特征细节信息等问题, 建立一种基于多模型加权组合的文本相似度计算模型。在考虑次序、主题、语义等内容的基础上,对句子的每个单词进行嵌入表示,利用最大池化操作和Bi-GRU神经网络作为编码器生成关于句子的嵌入表示,通过多层次的比较来学习句子嵌入之间的相似性关系。对文本转换进行结构化表示,提取基于短语的浅层语法树结构化特征作为Tree-GRU的输入进行文本相似度计算。将上述2个计算结果进行加权处理,获取文本相似度的最终计算结果。实验结果表明:当权重参数C1和C2分别取值0.6和0.4时该模型具有最优的相似度计算结果;在STSB数据集上模型的精确率、召回率和F1值分别达到90.32%、90.89%和90.52%;在SICK数据集上精确率、召回率和F1值分别达到85.41%、85.95%和85.61%;在MRPC数据集上精确率、召回率和F1值分别达到90.32%、90.89%和90.52%。该模型可以充分利用文本的多层次内容信息及结构化信息,适用于处理复杂的长文本,相对于DT-TEAM、ECNU等模型能取得更好的文本相似度计算结果。

来源:2023年第10期

《计算机工程》期刊编辑部

查看计算机工程杂志2023年第10期

联系我们

  • 地址:上海市嘉定区澄浏公路63号
  • 电话:(021) 67092217
  • E-mail:ecice06@ecict.com.cn

咨询工作人员