基本简介

Fair Resource Allocation in Federated Learning一文中针对普通的FedAvg算法对于单纯最小化聚合损失函数可能会对某些设备带来优势或者劣势。q-FFL它能使联邦网络中的设备分布更加公平（均匀）、准确。目标是确保培训过程不会过拟合模型任何一个设备。目标过于严格，只优化性能最差的设备，并且只在两三个设备网络中测试。

核心思想

由目标函数可知，为了更加公平需要调整表现贡献差的设备的权重，来减小准确度分布的方差。这个调整权重需要是动态的，因为设备的表现取决于被训练的模型，这个不能被先验评估。
对于损失函数更改为：

q=0，即为经典目标函数，大的q表示我们强调具有较高局部经验损失的设备，即Fk(w)，从而减少了训练精度分布的方差，并可能根据定义诱导公平性。

足够大的q就变成了max-min fairness（AFL），而从而性能最差的设备将主导目标。

算法实现

代码实现

实验结果

联邦学习算法初探——q-FFL相关推荐

虚拟专题：联邦学习 | 联邦学习算法综述
来源:大数据期刊联邦学习算法综述王健宗1 ,孔令炜1 ,黄章成1 ,陈霖捷1 ,刘懿1 ,何安珣1 ,肖京2 1. 平安科技(深圳)有限公司,广东深圳 518063 2. 中国平安保险(集团)股 ...
联邦学习算法介绍-FedAvg详细案例-Python代码获取
联邦学习算法介绍-FedAvg详细案例-Python代码获取一.联邦学习系统框架二.联邦平均算法(FedAvg) 三.联邦随梯度下降算法 (FedSGD) 四.差分隐私随联邦梯度下降算法 (DP- ...
个性化联邦学习算法框架发布，赋能AI药物研发
摘要:近期,中科院上海药物所.上海科技大学联合华为云医疗智能体团队,在Science China Life Sciences 发表题为"Facing Small and Biased Dat ...
群体智能中的联邦学习算法综述
摘要群体智能是在互联网高速普及下诞生的人工智能新范式.然而,数据孤岛与数据隐私保护问题导致群体间数据共享困难,群体智能应用难以构建.联邦学习是一类新兴的打破数据孤岛.联合构建群智模型的重要方法.首先 ...
【联邦学习】联邦学习算法分类总结
[联邦学习]联邦学习算法分类总结横向联邦学习.纵向联邦学习和联邦迁移学习横向联邦学习纵向联邦学习联邦迁移学习基于机器学习算法的联邦学习分类联邦线性算法联邦树模型联邦支持向量机联邦深度 ...
联邦学习算法SCAFFOLD的PyTorch实现
目录 I. 前言 II. 数据集介绍 III. SCAFFOLD 1. 模型定义 2. 优化器定义 3. 服务器端 4. 客户端 IV. 完整数据及代码 I. 前言 SCAFFOLD的原理请见:ICM ...
杭州内推 | 之江实验室招聘机器学习/强化学习/联邦学习算法实习生
合适的工作难找?最新的招聘信息也不知道? AI 求职为大家精选人工智能领域最新鲜的招聘信息,助你先人一步投递,快人一步入职! 之江实验室之江实验室成立于2017年9月,坐落于杭州城西科创大走廊核心地 ...
xgboost算法原理_从XGB到SecureBoost:看联邦学习XGB的算法原理
摘要: 最近与某厂完成基于FATE的联邦学习框架的一个项目,第一次实践了一把联邦学习在实际业务场景中的应用,从模型评估结果来看,效果还不错.因此,本文将完成对于其中实现的提升算法SecureBoost ...
极客星球 | FATE联邦学习框架理论与应用初探
一.背景随着大数据.云计算等技术的发展,数据隐私安全问题受到越来越多的重视,各国都在加强数据安全和隐私保护.中国在2017年实施的<中华人民共和国网络安全法>要求网络运营者不得泄露.篡改 ...

联邦学习算法初探——q-FFL