READ-2316 Meta Federated Learning
READ-2316 Meta Federated Learning
| 论文名称 | Meta Federated Learning |
|---|---|
| 作者 | Omid Aramoon, Pin-Yu Chen, Gang Qu, Yuan Tian |
| 来源 | ICLR 2021 |
| 领域 | Machine Learning - Federal learning - Security - Defence – Backdoor attack；Machine Learning - Federal learning - Privacy - Defence – SecAgg |
| 问题 | 已有的防御后门攻击的方法需要直接访问每个客户端的更新，无法与安全聚合兼容。即使在没有安全聚合的情况下，由于隐私问题和法规，检查客户端的更新也是不可接受的。 |
| 方法 | 在Meta-FL中，服务器受到一群安全聚合的结果，而非单独的模型更新，将聚合结果进一步进行聚合 |
| 创新 | 同时考虑安全和隐私 |
阅读记录
一、攻击模型
- 攻击目标：后门攻击
- 攻击者能力
（1）女巫攻击
（2）攻击者可以完全控制本地数据和训练过程
（3）攻击者无法控制良性客户端的数据和模型更新 - 攻击场景：攻击者同时用良性数据和后门数据进行训练
（1）Naive：攻击者提供计算好的模型更新
（2）Model Replace：对恶意更新进行scaling操作
二、防御
- 防御后门攻击的挑战
- 不计后果的服从：由于在SecAgg中检查模型并不有效，并且模型更新可以被用于重构攻击，因此无论是否使用安全聚合，都禁止检查模型更新，即对手有权提交任何任意值而不会被标记为异常。
- 客户端更新存在较大差异，可能原因为①原始数据集non-i.i.d分布，②每个更新都是随机梯度下降的结果，这是一种非确定性算法，差异性不一定是由攻击造成的
- 总框架
- 群组
①良性群组：全部客户端都为良性
②恶意群组：至少有一个恶意客户端 - 群组选取方式
①按顺序取样：不同群组的客户端不同
②独立取样：不同群组可以选择相同客户端，解决了客户端不足的情况 - 隐私性保证
原始更新只存储在客户端，所有客户端使用安全聚合对更新加密后聚合。尽管群组更新也可能泄露训练数据的信息，但是攻击者推理出的知识无法与具体客户端相关联，保证了客户端的隐私性
- 将防御从更新级别转换为聚合级别的好处
- 攻击者将攻击保持到聚合级别，服务器无需检测客户端更新，而可以检查群组的聚合结果，解决了挑战1
- 与单个客户端更新相比，群组聚合在每个坐标上的变化较小，克服了挑战2
①群组聚合和总体模型聚合的关系
P：总参与客户端数
c：群组中客户端的数量
σ：所有参与者的第j维参数的方差
μ：所有参与者的第j维参数的均值
Δ：群组聚合的第j维参数
含义：群组聚合实际上是总体模型更新的样本平均值
②群组聚合的方差
含义：群组聚合的任意维度的方差的上界为群组聚合的总体方差，可以通过扩大群组的规模来减小群组聚合的方差。方差越小，越容易进行恶意检测。 - 女巫攻击受到群组聚合的限制，对手很难安排女巫的更新值来规避部署的防御
- Meta-FL和FL的区别
Meta-FL的好处：
（1）服务器可以监管聚合结果，而不侵犯客户隐私
（2）聚合结果的偏差比单独的更新更小，方便服务器检测
（3）攻击者需在汇总层面保持隐蔽性，同时，恶意客户端需要与良性客户端竞争对聚合结果的操控权
总结
本文所提出的方法同时对FL的安全性和隐私性进行了保护，并且该框架下训练的模型有较高的实用性。但是该框架中存在一个问题：群组聚合该由谁完成，如果存在第三方，第三方是否会引入新的安全性或隐私性问题？对此，需要进一步了解安全聚合的相关概念
READ-2316 Meta Federated Learning相关推荐
- 【阅读笔记】Towards Personalized Federated Learning个性化联邦综述
文章目录 前言 1 背景 1.1 机器学习.联邦学习 1.2 促进个性化联邦学习的动机 2 个性化联邦学习的策略 2.1 全局模型个性化 2.1.1 基于数据的方法 2.1.1.1 数据增强 Data ...
- 联邦学习入门（一）-Advances and Open Problems in Federated Learning详解
本文主要是联邦学习的入门级笔记,主要参考了论文Advances and Open Problems in Federated Learning和微众银行的联邦学习白皮书,笔者作为初次接触该领域的小白, ...
- AI之FL：联邦学习(Federated Learning)的简介、入门、应用之详细攻略
AI之FL:联邦学习(Federated Learning)的简介.入门.应用之详细攻略 导读 2019 年2 月,微众银行 AI 团队自主研发的全球首个工业级联邦学习框架 FATE(Fe ...
- PDGAN: A Novel Poisoning Defense Method in Federated Learning Using Generative Adversarial Network笔记
前言 论文 "PDGAN: A Novel Poisoning Defense Method in Federated Learning Using Generative Adversari ...
- 【译】Federated Learning: Bringing Machine Learning to the edge with Kotlin and Android
采用机器学习模式需要数据. 我们越多越好. 但是,数据并不便宜,更重要的是,数据可能包含敏感的个人信息. 以新法律形式作为GDPR以及提高用户和公民对其数据价值的认识的最新隐私发展正在产生对实施更多隐 ...
- 初识联邦学习(Federated learning)
联邦学习(Federated learning)最早在2016由谷歌提出,并在之后受到大量的关注.本文旨在简要介绍联邦学习,了解联邦学习的背景,而不关注联邦学习具体的实现方案.希望能解释通如下几个 ...
- 联邦学习安全与隐私保护综述 A survey on security and privacy of federated learning
联邦学习安全与隐私保护综述 写在前面的话 联邦学习是什么 联邦学习工作流程 联邦学习的技术分类 安全问题和解答 隐私问题和解答 未来方向 写在前面的话 本篇博客参考<A survey on se ...
- 联邦学习 + 脏数据+Approaches to address the data skew problem in federated learning
Menu 联邦学习 Fair Resource Allocation in Federated Learning 背景 贡献 FedAvg q-FFL 解决方法 Fed Avg-Style q-Fai ...
- 【联邦学习】横向联邦学习（Horizontal Federated Learning，HFL）
文章目录 一.横向联邦学习的定义 二.横向联邦学习的安全性 三.横向联邦学习架构 1. 客户-服务器架构 2. 对等网络架构 四.联邦优化 五.联邦平均算法 参考链接 一.横向联邦学习的定义 横向联邦 ...
最新文章
- amazeui学习笔记--css（常用组件4）--关闭按钮Close
- 关于python中文处理
- 使用LiveGBS将GB28181流转成RTSP流上大屏
- undefined reference to `sqrt‘ 问题
- dataframe合并两个表_Pandas 数据处理 | 怎么对多个数据表合并，你了解么？
- 【综合】JS跨域方案JSONP与CORS跨域
- （八大方法、逐层深入，有你一定没见过的）使用INSERT语句向表中插入数据
- 信号量优先级反转（翻转）与优先级继承
- python 使用.bat文件自动执行
- Spring.Web 之双向数据绑定（Bidirectional data binding）
- 实用的论文工具大盘点【建议收藏】
- 野火stm32资源下载（视频，手册等）
- 嵌入式端的神经网络算法部署和实现综合
- 华为网络计算机ct2000,2019-02-22 华为U2000 ESN查询及License加载
- 内容云筑底，火山引擎能否为企业添一把火？
- 阿里云发生故障，网友炸了，官方回应道歉。对此事你怎么看？
- 上海科技大学信息科学与技术研讨会（SSIST day1) 笔记
- 机器学习之线性回归 Linear Regression（二）Python实现
- 费曼算法（Feynman algorithm）
- JK latch JK触发器 【数字电路】