计算机工程

作者：杨兴耀, 李志林, 张祖莲, 于炯, 陈嘉颖, 王东晓

单位：1. 新疆大学软件学院, 新疆 乌鲁木齐 8300912. 新疆维吾尔自治区气象局新疆兴农网信息中心, 新疆 乌鲁木齐 830002

关键词：滤波器,自注意力机制,基于Transformer的双向编码器表示,引文推荐,预训练语言模型

基金：新疆维吾尔自治区自然科学基金面上项目(2023D01C17); 新疆维吾尔自治区自然科学基金面上项目(2022D01C692); 国家自然科学基金(62262064); 国家自然科学基金(61862060); 新疆维吾尔自治区自然科学基金资源共享平台建设项目(PT2323); 新疆气象局引导项目(YD202212); 劳务派遣管理信息化系统(202212140030)

推荐算法是一种用于解决信息过载问题的方法, 引文推荐通过引文上下文能够自动匹配候选论文列表。现有基于神经引文网络模型在引文上下文数据预处理的过程中, 存在文本噪声和上下文学习不充分的问题。为此, 提出一种基于层间融合滤波器和社交神经引文网络的推荐算法FS-Rec。首先, 利用具有层间融合滤波器的BERT模型预处理引文上下文, 在频域内从所有频率中提取有意义的特征, 缓解引文上下文数据的噪声, 同时在频域中对多层信息进行融合, 增强上下文表示学习的能力; 然后, 在引文作者嵌入中引入社交关系, 与其他引文信息嵌入通过编码器获得表示, 将这些表示与经过BERT预训练的引文上下文表示进行融合, 得到最终表示; 最后, 根据最终表示生成引文文本预测。实验结果表明, 相较于现有的上下文引文推荐模型, FS-Rec在2个基准数据集arXivCS和PubMed取得了更高的召回率和平均倒数排名(MMR), 证明了模型的有效性。

来源：2024年第11期

《计算机工程》期刊编辑部

查看计算机工程杂志2024年第11期