国内刊号:31-1289/TP
国际刊号:1000-3428
发布日期:
作者:王树芬, 张哲, 马士尧, 陈俞强, 伍一
单位:1. 哈尔滨石油学院 信息工程学院, 哈尔滨 150028;2. 黑龙江大学 数据科学与技术学院, 哈尔滨 150080;3. 广州航海学院信息与通信工程学院, 广州 510725
关键词:联邦学习,半监督联邦学习,数据异构性,一致性损失,鲁棒性
基金:国家自然科学基金“基于DIBR绘制3D图像认证的关键技术研究”(61702224)。
联邦学习允许边缘设备或客户端将数据存储在本地来合作训练共享的全局模型。主流联邦学习系统通常基于客户端本地数据有标签这一假设,然而客户端数据一般没有真实标签,且数据可用性和数据异构性是联邦学习系统面临的主要挑战。针对客户端本地数据无标签的场景,设计一种鲁棒的半监督联邦学习系统。利用FedMix方法分析全局模型迭代之间的隐式关系,将在标签数据和无标签数据上学习到的监督模型和无监督模型进行分离学习。采用FedLoss聚合方法缓解客户端之间数据的非独立同分布(non-IID)对全局模型收敛速度和稳定性的影响,根据客户端模型损失函数值动态调整局部模型在全局模型中所占的权重。在CIFAR-10数据集上的实验结果表明,该系统的分类准确率相比于主流联邦学习系统约提升了3个百分点,并且对不同non-IID水平的客户端数据更具鲁棒性。
来源:2022年第6期
《计算机工程》期刊编辑部