计算机工程

作者：李尤慧子, 俞海涛, 殷昱煜, 高洪皓

单位：1. 杭州电子科技大学 计算机学院, 杭州 310018;2. 上海大学 计算机工程与科学学院, 上海 200444;3. 韩国嘉泉大学 计算机工程系, 城南 461701

关键词：区块链,超级账本,联邦学习,隐私保护,智能合约

基金：浙江省“尖兵”“领雁”研发攻关计划“基于异质多模态数据融合的卒中后认知功能障碍智能诊疗技术研究与应用示范”（2022C03043）；浙江省自然科学基金“车联网中全路径轨迹隐私保护关键技术研究”（LY22F020018）。

联邦学习作为分布式机器学习框架，在数据不离开本地的情况下，通过共享模型参数达到协作训练的目标，一定程度上解决了隐私保护问题，但其存在中心参数服务器无法应对单点故障、潜在恶意客户端梯度攻击、客户端数据偏态分布导致训练性能低下等问题。将去中心化的区块链技术与联邦学习相结合，提出基于超级账本的集群联邦优化模型。以超级账本作为分布式训练的架构基础，客户端初始化后在本地训练向超级账本传输模型参数及分布信息，通过聚类优化联邦学习模型在客户端数据非独立同分布下的训练表现。在此基础上，随机选举客户端成为领导者，由领导者代替中央服务器的功能，领导者根据分布相似度和余弦相似度聚类并下载模型参数聚合，最后客户端获取聚合模型继续迭代训练。以EMNIST数据集为例，数据非独立同分布情况下该模型平均准确率为79.26%，较FedAvg提高17.26%，在保证准确率的前提下，较集群联邦学习训练至收敛的通信轮次减少36.3%。

来源：2023年第1期

《计算机工程》期刊编辑部

查看计算机工程杂志2023年第1期