计算机工程

作者：吴若岚, 陈玉玲, 豆慧, 张洋文, 龙钟

单位：贵州大学省部共建公共大数据国家重点实验室计算机科学与技术学院, 贵州 贵阳 550025

关键词：联邦学习,中毒攻击,推理攻击,本地差分隐私,隐私保护

基金：国家自然科学基金(62202118); 贵州省教育厅“揭榜挂帅”科技攻关项目(黔教技[2023]003号); 贵州省科技厅百层次创新人才项目(黔科合平台人才-GCC[2023]018); 贵州省教育厅自然科学研究科技拔尖人才项目(黔教技[2022]073号)

联邦学习作为新兴的分布式学习框架, 允许多个客户端在不共享原始数据的情况下共同进行全局模型的训练, 从而有效保护了数据隐私。然而, 传统联邦学习仍然存在潜在的安全隐患, 容易受到中毒攻击和推理攻击的威胁。因此, 为了提高联邦学习的安全性和模型性能, 需要准确地识别恶意客户端的行为, 同时采用梯度加噪的方法来避免攻击者通过监控梯度信息来获取客户端的数据。结合恶意客户端检测机制和本地差分隐私技术提出了一种鲁棒的联邦学习框架。该算法首先利用梯度相似性来判断和识别潜在的恶意客户端, 减小对模型训练任务产生的不良影响; 其次, 根据不同查询的敏感性以及用户的个体隐私需求, 设计一种基于动态隐私预算的本地差分隐私算法, 旨在平衡隐私保护和数据质量之间的权衡。在MNIST、CIFAR-10和MR文本分类数据集上的实验结果表明, 与3种基准算法相比, 该算法在准确性方面针对sP类客户端平均提高了3百分点, 实现了联邦学习中更高的安全性水平, 显著提升了模型性能。

来源：2025年第2期

《计算机工程》期刊编辑部

查看计算机工程杂志2025年第2期