国内刊号:31-1289/TP
国际刊号:1000-3428
发布日期:
作者:吴小红, 李佩, 顾永跟, 陶杰
单位:1. 湖州师范学院信息工程学院, 浙江 湖州 3130002. 湖州师范学院浙江省现代农业资源智慧管理与应用研究重点实验室, 浙江 湖州 313000
关键词:联邦学习,非独立同分布数据,最优匹配,EMD最优匹配,模型质量
基金:国家自然科学基金青年科学基金项目(61906066); 国家自然科学基金青年科学基金项目(2022ZD2002)
联邦学习允许多个客户端在不共享私有数据的情况下协同训练高性能的全局模型。在跨组织场景的水平联邦学习环境下, 客户端本地数据分布中的统计异质性将降低全局模型的性能。为提升联邦学习的全局模型性能, 同时避免牺牲客户端隐私和增加计算成本, 提出一种新的混合联邦学习算法FedAvg-Match, 其基本思路是通过改进联邦学习算法提升客户端的模型质量。该算法面向以不平衡标签分布为特征的数据异构性, 在分层联邦学习框架下设计客户端分组聚合算法来减轻客户端数据异构性对模型性能的影响。针对客户端优化分组问题, 设计一种基于动态规划的客户端匹配算法DP-ClientMatch, 根据客户端的数据分布距离EMD得到最优的客户端分组匹配。在MNIST、Fashion-MNIST和CIFAR-10 3个数据集上的实验结果表明, 与其他联邦学习算法相比, 在高度统计异质性的联邦学习场景下, FedAvg-Match算法使全局模型测试精度最少可提高10百分点, 可以显著提高联邦学习全局模型在图像分类任务上的性能。
来源:2025年第2期
《计算机工程》期刊编辑部