
NIID-Bench非独立同分布联邦学习基准实战指南【免费下载链接】NIID-BenchFederated Learning Benchmark - Federated Learning on Non-IID Data Silos: An Experimental Study (ICDE 2022)项目地址: https://gitcode.com/gh_mirrors/ni/NIID-Bench各客户端的数据分布一旦不一致联邦学习算法的准确率就会变得难以相信团队之间还缺少统一的标尺来对比。NIID-Bench 就是针对非独立同分布Non-IID数据场景的联邦学习算法基准把各种数据偏斜都变成了可复现的统一测试场。它解决了什么问题它出自 ICDE 2022 论文《Federated Learning on Non-IID Data Silos: An Experimental Study》把论文里的实验设置完整落到了代码里。核心交付是三样东西五个联邦学习算法FedAvg、FedProx、SCAFFOLD、FedNova、MOON、三类非独立同分布划分标签偏斜、特征偏斜、数量偏斜、九个数据集外加每一套可复现的划分实现。克隆下来就是一组对照实验同样的划分、同样的超参基线算法之间的差距一眼可见。核心能力一览 五个联邦学习算法一次配齐通过 experiments.py 的--alg参数一键切换FedAvg—— 联邦平均的基线做法FedProx—— 加近端项偏斜数据上训练更稳SCAFFOLD—— 用服务器端控制变元修正梯度漂移FedNova—— 归一化各客户端不等量数据MOON—— 基于对比学习的方案后期集成进来。 三种非独立同分布偏斜一次配齐标签分布偏斜—— 数量式每个客户端只持有固定个数的标签分布式各标签占比从狄利克雷分布中采样特征分布偏斜—— 合成 3D 数据切对称子集、FEMNIST 真实书写者划分或给各客户端叠加不同程度的高斯噪声数量偏斜—— 分布一致但数据量不等体积比例按狄利克雷分布分配。也可以把两种偏斜叠成混合场景。--partition参数一把全覆盖划分类型--partition说明IID 基线homo各客户端同分布用于校准对比数量式标签偏斜noniid-#label1/2/3每个客户端只持有固定个数标签分布式标签偏斜noniid-labeldir各客户端标签占比狄利克雷采样beta控制偏斜强度特征偏斜real合成 3D 划分或 FEMNIST 真实书写者划分数量偏斜iid-diff-quantity分布一致数据量按狄利克雷不同混合偏斜mixed标签分布偏斜叠加数量偏斜表格CSV数据可以直接用 partition.py 按策略拆成各客户端的文件partition_to_file.sh里带了完整示例图像数据则参考 utils.py 里的partition_data。scripts/目录还备好了百客户端、ResNet/VGG 大模型等场景的现成脚本。九个数据集开箱即用MNIST、CIFAR-10、Fashion-MNIST、SVHN、合成 3D 数据集、FEMNIST、adult配置中写作 a9a、rcv1、covtype图像与表格两类都有后续又补了 CIFAR-100 和 Tiny-ImageNet 供更大规模实验。适合谁用算法对比研究—— 你能拿到同划分、同超参基线的受控环境A 算法比 B 强的结论才站得住隐私保护训练—— 不用收集原始数据就能先验证自己的算法在非独立同分布真实数据上是否扛得住多源数据融合—— 你能直接拿一份把混合来源数据拆成各客户端孤岛的参考实现迁移进自己的流水线。选择它的理由论文背书—— 严格复现 ICDE 2022 论文的设置结果与官方基线可直接对表一条命令起跑—— experiments.py 里把数据集、划分、算法、客户端数一次配好跑完就有完整训练曲线覆盖面广—— 客户端从 10 到 100、模型从简单 CNN 到 ResNet/VGG 重模型都有实测公开排名—— 配套的 NIID-Bench 挑战赛支持上传自家算法到排行榜上和别人过招。非独立同分布基准最实在的价值是在算法上线前告诉你它的真实水平。克隆仓库跑通一个基线实验git clone https://gitcode.com/gh_mirrors/ni/NIID-Bench。如果你算法里有独门手段也欢迎拿去挑战赛排个名——那里才是真正见真章的地方。【免费下载链接】NIID-BenchFederated Learning Benchmark - Federated Learning on Non-IID Data Silos: An Experimental Study (ICDE 2022)项目地址: https://gitcode.com/gh_mirrors/ni/NIID-Bench创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考