计算机工程

作者：尹恒杰, 郑克清, 柯建楠, 董云泉

单位：1. 南京信息工程大学电子与信息工程学院, 江苏 南京 2100442. 南京信息工程大学天长研究院, 安徽 滁州 239300

关键词：联邦学习,数据异构,注意力机制,客户端漂移,本地动量

基金：国家自然科学基金面上项目(62071237)

联邦学习(FL)作为一种分布式机器学习技术, 在隐私保护方面取得了显著成果。然而, 在实际应用中, 由于数据源的非独立同分布(Non-IID)性, 导致客户端漂移现象, 从而引发模型收敛缓慢和性能下降问题。为此, 提出一种结合注意力机制的联邦本地动量加速学习(FedLM)算法。FedLM在本地模型更新中引入全局动量项, 利用前几轮的全局梯度信息来平滑当前的更新过程, 修正异构客户端的参数更新方向分歧, 从而减少梯度震荡, 缓解数据异构性问题。注意力机制则通过动态调整各客户端在全局模型更新中的权重, 以提升聚合模型的质量。实验结果表明, 在不同数据异构程度、不同模型结构以及不同数据集的图像分类任务中, FedLM的准确率和稳定性均显著优于现有的SCAFFOLD、FedCM、Moon等联邦学习算法。

来源：2026年第4期

《计算机工程》期刊编辑部

查看计算机工程杂志2026年第4期