计算机工程

作者：李强, 谭兴义, 郑唯, 刘震, 杨文海

单位：湖南师范大学信息科学与工程学院, 湖南 长沙 410081

关键词：图神经网络,知识蒸馏,推理加速,对比学习,对抗训练

基金：湖南省科技计划(2021GK5014)

图神经网络(GNN)在节点分类任务上表现优异, 但消息传递机制导致的邻域获取延迟问题限制了其在延迟敏感应用中的部署。尽管多层感知机(MLP)在节点分类任务上的准确性不及GNN, 但由于具有理想的推理效率, 因此其仍是实际工业应用的主要工具。鉴于GNN和MLP在各自优势与劣势上的互补性, 提出基于对抗训练与对比表示蒸馏的GNN推理优化方法, 以将GNN教师模型学到的知识传递给更高效的MLP学生模型。通过将快速梯度符号法(FGSM)生成的特征扰动与节点内容特征结合并作为学生模型的输入, 然后在真实标签与教师模型的Softmax概率分布的指导下, 对学生模型进行对抗训练, 以降低其对节点特征噪声的敏感性。此外, 设计对比表示蒸馏模块, 将学生和教师模型对同一节点输出的嵌入视为正样本对, 对不同节点输出的嵌入视为负样本对, 通过缩小正样本对的距离并扩大负样本对的距离, 使学生模型能够捕捉教师模型输出的节点嵌入之间的关系, 从而保留GNN的全局拓扑结构。在公共数据集上的实验结果表明, 当教师模型为GraphSAGE时, 采用该方法训练得到的MLP学生模型推理速度比GraphSAGE快89倍, 准确率相较于普通MLP和GraphSAGE分别平均提高14.12和2.02百分点, 且优于两种基线方法。

来源：2026年第1期

《计算机工程》期刊编辑部

查看计算机工程杂志2026年第1期