计算机工程

作者：温依霖, 赵乃良, 曾艳, 韩猛, 岳鲁鹏, 张纪林

单位：1. 杭州电子科技大学 计算机学院, 杭州 310018;2. 杭州电子科技大学 复杂系统建模与仿真教育部重点实验室, 杭州 310018;3. 数据安全治理浙江省工程研究中心, 杭州 310018

关键词：联邦学习,数据异构,损失值,训练时间,客户端选择

基金：国家重点研发计划(2019YFB2102101);国家自然科学基金(62072146,61972358);浙江省重点研发计划(2021C03187)。

联邦学习是一种针对数据分布于多个客户端的环境下，客户端共同协作训练模型的分布式机器学习方法。在理想情况下全部客户端均参与每轮训练，但是实际应用中只随机选择一部分客户端参与。随机选择的客户端通常不能全面反映全局数据分布特征，导致全局模型训练效率和模型精度降低。为此，提出一种基于本地模型质量的客户端选择方法ChFL。分析影响模型精度和收敛速度的重要因素，提取可反映客户端模型质量的损失值和训练时间2个重要指标。通过对本地损失值和训练时间融合建模，用于评估客户端模型质量。在此基础上，基于客户端质量指导客户端选择，同时与随机选择策略进行一定比例的结合，以提高全局模型精度。通过选择具有高质量的数据且计算性能较优的客户端参与训练，提升模型精度并加快收敛速度。在FEMNIST、CIFAR-10、MNIST、CINIC-10和EMNIST数据集上的实验结果表明，相比3种基线算法FedAvg、FedProx、FedNova，将ChFL与基线算法相结合后的收敛速度平均加快约10%，准确率平均提高4个百分点。

来源：2023年第6期

《计算机工程》期刊编辑部

查看计算机工程杂志2023年第6期