ABY3 [Arithmetic-Binary-Yao; Three-party with one malicious adversaries]

  • 引言
  • 三方秘密共享
    • 算术共享
    • 布尔共享
    • 姚式共享
  • ABY3框架
    • 共享转换
    • 定点乘法与截断

代码在这里

引言

机器学习被广泛用于为图像分类、生物特征匹配等应用生成模型,越来越多的技术公司,例如微软、谷歌,为客户提供基于云的机器学习模型推理和训练服务。然而,这些数据通常是敏感的,并可能具有不同等级的隐私要求。在通用数据保护条例等法规的约束下,不同实体之间难以共享数据和协同训练模型。
基于安全多方计算的隐私保护机器学习是一个活跃的研究领域,有助于解决这些问题。探索基于三方服务器的隐私保护机器学习框架,现有工作存在的挑战包含以下几个方面:
(1)在机器学习中,参数和中间计算结果都是以小数的形式存在,不能直接应用到模运算的代数系统上,例如整数环。目前有两种解决方案,一是将小数乘上一个大因子使其成为整数,同时使用一个大的模数来避免绕环,这样的弊端就是当计算大量浮点乘法的时候将不满足结果的正确性,同时采用了更大的模数增加了计算和通信的复杂度;二是使用基于布尔电路和混淆电路的定点小数乘法方法,但是其通信轮数又大大增加。
(2)机器学习涉及大量的算术计算与布尔运算,往往使用混合协议的方式比使用单一协议的方法要更高效,例如,可以使用算术秘密共享实现加法和乘法,使用布尔秘密共享或Yao共享实现比较。然而,在不同共享类型之间进行转换的标准方法代价高昂,并很快成为主要的性能瓶颈。
(3)如果攻击者存在恶意的行为,那么有效地解决上述挑战将更加困难,因此需要考虑恶意安全模型下的安全计算协议设计。
为了解决上述问题,本文[18]作出了如下贡献。
(1)设计了一种用于共享小数的近似定点乘法协议,其计算开销接近于标准的秘密共享模乘法,可以应用于半可信模型和恶意模型(三方中有一方是恶意的)。
(2)设计了一种通用的三方计算框架,用于实现在算术共享、布尔共享、和Yao共享之间进行转换。
(3)面对半可信安全模型,甚至是恶意模型(本文考虑安全三方计算,至多存在一台服务器被腐蚀)。

三方秘密共享

算术共享


布尔共享

姚式共享


ABY3框架

  • 三种秘密共享类型:算术加法秘密共享;二进制秘密共享;姚式电路秘密共享;不同类型的秘密共享切换通信开销:
  • 安全三方计算
    秘密 x = x 1 + x 2 + x 3 x=x_1+x_2+x_3 x=x1​+x2​+x3​,三方分别拥有 ( x 1 , x 2 ) , ( x 2 , x 3 ) , ( x 3 , x 1 ) {(x_1, x_2), (x_2, x_3), (x_3, x_1)} (x1​,x2​),(x2​,x3​),(x3​,x1​),显然任意两方可以重构出秘密 x x x,且允许且仅允许一个参与方被腐蚀(即任意少于两方不能重构出秘密),相当于(3,2)门限秘密共享,3为参与方总数量,2为可重构秘密参与方数量(重构门限)。
    注意,任意一方拥有两份秘密份额!(是为了使得任意两方可以重构出秘密的前提)

共享转换



定点乘法与截断

  • 定点数运算:表示为k比特,固定小数位长度为d,在 Z 2 k \mathbb{Z}_{2^k} Z2k​内可以执行与整数类似的运算。

    1. 定点乘法协议有两个误差来源:①第d+1位小数被截断,导致 2 − d 2^{-d} 2−d的误差,可以通过增大d控制误差大小;②符号位溢出,例如负数误判为正数。
    2. ①本文方法1:分享截断值,最小化通信开销,其中 x 3 = r = x 3 ′ / 2 d x_3=r=x'_3/{2^d} x3​=r=x3′​/2d;
      ② 借助二进制秘密共享。
  • 向量化运算
  • 秘密共享类型转换
  • 混合秘密共享运算

(阅读笔记)ABY3: A Mixed Protocol Framework for Machine Learning相关推荐

  1. 论文阅读笔记(一)【Journal of Machine Learning Research】Natural Language Processing (Almost) from Scratch(未完)

    学习内容 题目: 自然语言从零开始 Natural Language Processing (Almost) from Scratch 2021年7月28日 1-5页 这将是一个长期的过程,因为本文长 ...

  2. 一周一论文(翻译)—— [PVLDB 12] Distributed GraphLab A Framework for Machine Learning 分布式机器学习图计算框架

    摘要 虽然高级别数据并行框架,像MapReduce,简化了大规模数据处理的设计和实现的系统,他们没有自然或有效地支持许多重要数据挖掘和机器学习算法并且导致学习系统效率低下.为了帮助填补这一重要空白,我 ...

  3. 论文阅读笔记《USAC: A Universal Framework for Random Sample Consensus》

      本文总结了RANSAC算法的流程与存在的问题,整理了近几年基于RANSAC提出的改进算法,并整合各个算法的优势,提出一个统一的RANSAC算法框架.因此本文也可以看做是一片关于RANSAC算法的论 ...

  4. 吴恩达深度学习笔记——结构化机器学习项目(Structuring Machine Learning Projects)

    深度学习笔记导航 前言 传送门 结构化机器学习项目(Machine Learning Strategy) 机器学习策略概述 正交化(orthogonalization) 评价指标 数字评估指标的单一性 ...

  5. 【阅读笔记】Towards Efficient and Privacy-preserving Federated Deep Learning

    Towards Efficient and Privacy-preserving Federated Deep Learning 前言 一.论文解析 Abstract 1. INTRODUCTION ...

  6. 论文阅读笔记五十三:Libra R-CNN: Towards Balanced Learning for Object Detection(CVPR2019)

    论文原址:https://arxiv.org/pdf/1904.02701.pdf github:https://github.com/OceanPang/Libra_R-CNN 摘要 相比模型的结构 ...

  7. 论文阅读笔记《Adaptive Image-Based Visual Servoing Using Reinforcement Learning With Fuzzy State Coding》

    核心思想   该文提出一种利用模糊状态编码的强化学习(Q-learning)算法来实现自适应基于图像的视觉伺服控制.基于图像的视觉伺服过程中,图像雅可比矩阵中的距离参数ZZZ是未知的,需要对其进行估计 ...

  8. 论文阅读笔记《Fine-tuning Deep Neural Networks in Continuous Learning Scenarios》

    摘要:深度神经网络的复兴与ImageNet数据集的公开为近期复杂识别任务的成功奠定了基础.然而,ImageNet并不能包含所有可能的应用场景的所有视觉概念.因此,应用科学家仍然不断地记录新的数据,并期 ...

  9. 论文阅读笔记 (CVPR 2019) Gait Recognition via Disentangled Representation Learning

    一.论文摘要   步态是个体的行走方式,是最重要的生物特征识别手段之一.现有的步态识别方法大多以轮廓或关节体模型为步态特征.这些方法在处理诸如服装.携带和视角等混杂变量时会导致识别性能下降.为了解决这 ...

  10. 论文阅读笔记《Attentive Weights Generation for Few Shot Learning via Information Maximization》

    小样本学习&元学习经典论文整理||持续更新 核心思想   本文提出一种基于权重生成的小样本学习算法(AWGIM),这种类型的方法之前在小样本目标检测算法中见到过,就是直接用一个生成器生成分类器 ...

最新文章

  1. 论文笔记 Hierarchical Reinforcement Learning for Scarce Medical Resource Allocation
  2. 绝对牛逼的3套Python项目,就业/毕设/私活/女朋友都不愁了
  3. mvcpager之学习
  4. Centos 下安装redmine及设置发送邮件功能
  5. JBoss核心Java Web服务
  6. 租房有深坑?手把手教你如何用R速读评论+科学选房
  7. 忘记mysql数据库连接密码
  8. 禅道批量添加任务时选择对应模块功能
  9. “2007中国软件技术英雄会”之微软中国研发集团开放日
  10. winform程序的皮肤问题
  11. 422串口协议解析逻辑设计讨论
  12. 桌面计算机图标无法显示属性,Win7系统桌面图标显示异常的解决方法大全
  13. hdu 4816,Bathysphere,三分
  14. oracle stdevp函数,SQL Server和Oracle的常用函数对比
  15. 读书笔记:《企业IT架构转型之道》
  16. 柠檬浏览器 for linux,柠檬浏览器app官网下载_柠檬浏览器最新官网下载_18183软件下载...
  17. Linux SWAP 交换分区配置说明
  18. venv文件夹里没有bin
  19. u盘引导 在SSD+HHD配置下安装ubuntu16.04
  20. 博客开张篇 人生的几大境界和追求

热门文章

  1. 3G产业链对我国运营商竞争关系的影响
  2. 电信行业的三大系统 BSS OSS MSS的区别和解释
  3. 闭关修炼---网络原理之TCP协议
  4. 简单搞定路由器设置wifi上网
  5. iOS中的属性传值和委托模式
  6. mysql 03多表联合操作——个人笔记
  7. 进出口来得及奥斯卡是监考老师对方家里事登记反馈了
  8. 注塑机数据采集(海天、住友、发那科、力劲、伊之密、恩格尔、泰瑞、佳明、双马、宁波通讯塑机、申达、海雄、海达、丰铁、大禹)直采串口通讯网络通讯方案
  9. spice-gtk键盘灯的控制
  10. some things about natural number e (my manuscript)