密码学小知识(9)：差分隐私（Differential Privacy）
首先要明白什么是隐私？若单个用户的某个属性可以是隐私，而一群用户的某个属性就可以不看做隐私了。例如，张三喜欢抽烟，所以得了肺癌。这个“张三得了肺癌”这条信息就是隐私。而医院里，抽烟的人容易得肺癌，这就不属于隐私。
因此，差分隐私是来保护隐私的密码学技术，通过对查询的结果加入噪声，而使得攻击者无法判断某个样本是否在数据集中。
差分隐私（Differential Privacy），简称DP，旨在传输的梯度信息中加入随机噪声，并将其查询操作的实际结果隐藏起来或者模糊化，直至无法区分，从而实现对私密数据的保护。
DP是Dwork在2006年提出的一种严格可证明的隐私保护技术。其核心思想是对于差别只有一条记录的两个数据集DDD和D‘D‘D‘，查询它们获得相同值的概率非常接近。这两个数据集称为邻居（相邻）数据集。
定义：令MMM为随机算法，DDD和D′D'D′为相邻数据集，若MMM在DDD和D′D'D′上任意输出的结果SSS都满足如下式子，则称MMM实现了(ϵ,δ)(\epsilon, \delta)(ϵ,δ)差分隐私。
Pr(M(D)∈S)=eϵ×Pr(M(D′)∈S)+δPr(M(D)\in S) = e^{\epsilon}\times Pr(M(D')\in S) + \deltaPr(M(D)∈S)=eϵ×Pr(M(D′)∈S)+δ
其中参数ϵ\epsilonϵ称为隐私预算，代表了差分隐私技术所实现的隐私保护程度，ϵ\epsilonϵ值越小表示隐私保护程度越高。Pr(M(D)∈S)Pr(M(D)\in S)Pr(M(D)∈S)表示随机算法MMM的输出属于集合SSS的概率。ϵ\epsilonϵ表示违背严格差分隐私的概率，若δ=0\delta = 0δ=0，则随机算法MMM表示严格的ϵ−\epsilon-ϵ−差分隐私，否则为松弛差分隐私。
常用的实现隐私保护的机制有拉普拉斯噪声机制[1]和指数噪声机制[2]，这里我并没有继续深入阅读，后续可能会继续展开。
[1] Dwork C, Roth A. The algorithmic foundations of differential privacy[J]. Foundations and Trends in Theoretical Computer Science, 2014, 9(3-4): 211-407.
[2] McSherry F, Talwar K. Mechanism design via differential privacy[C]. 48th Annual IEEE Symposium on Foundations of Computer Science, 2007.
密码学小知识(9)：差分隐私（Differential Privacy）相关推荐
- 差分隐私Differential Privacy介绍
差分隐私,英文名为differential privacy,顾名思义,保护的是数据源中一点微小的改动导致的隐私泄露问题.比如有一群人出去聚餐,那么其中某人是否是单身狗就属于差分隐私. 为了更形式化地描 ...
- 密码学小知识(6)：变色龙哈希函数（Chameleon Hash）
本篇博文将介绍变色龙哈希函数. 在介绍变色龙哈希函数之前,我们先简单回顾一下经典的哈希函数,这样就能对比它们之间的差别. 文章目录预览 本篇博文将介绍变色龙哈希函数. 一.哈希函数 二.变色龙哈希函数 ...
- 密码学小知识(5)：唯密文攻击(COA)、已知明文攻击(KPA)、选择明文攻击(CPA)，选择密文攻击(CCA)
本篇将介绍密码分析中主要的四种攻击方式(也可以称为四种安全性) 目录: 本篇将介绍密码分析中主要的四种攻击方式(也可以称为四种安全性) 一.唯密文攻击(Ciphtext Only Attack,COA ...
- 密码学小知识(8)：可验证随机函数（Verifiable Random Function, VRF)
可验证随机函数(Verifiable Random Function, VRF),顾名思义是一种具有可验证性和随机输出的一种函数,看名字大概也能理解. 一.通俗理解VRF 通俗理解为:以私钥sksks ...
- 转载-联邦学习 - 基础知识+白皮书+杨强教授讲座总结+同态加密+ 差分隐私
原文链接:https://blog.csdn.net/qq_41409438/article/details/102213895 联邦学习 兴起原因 概念 分类 横向联邦学习 纵向联邦学习 联邦迁移学 ...
- 隐私保护联邦学习之差分隐私原理
背景 什么是隐私 讲差分隐私前,说一下什么是隐私 其实隐私这个定义,各家有各家的说法,而且各人有各人不同的考量.目前普遍比较接受的是:"单个用户的某一些属性" 可以被看做是隐私.这 ...
- 隐私计算：数据脱敏、匿名化、假名化、差分隐私和同态加密
随着数据挖掘技术的普遍应用,一些厂商通过发布用户数据集的方式鼓励研究人员进一步深入挖掘数据的内在价值,在数据集发布的过程中,就存在安全隐患,可能导致用户隐私的泄露.2016年欧盟通过< ...
- 差分隐私 python_主要开发语言为 Python/Rust：微软与哈佛大学合作开源差分隐私平台...
微软与哈佛大学OpenDP Initiative 合作研发并开源了首个用于差分隐私的平台.这项工作已持续了将近一年,去年九月,微软首席数据分析管 John Kahan 曾宣布项目的开展:"我 ...
- 差分隐私 机器学习_微软发布多个建置可信AI的问责机器学习工具
为了提高人工智能解决方案的透明度,微软发布多个工具,在Azure上提供负责任机器学习服务(Responsible ML),微软提到,由于机器学习开始被深入整合进日常业务流程,因此透明度显得特别重要,A ...
最新文章
- .NET字符串操作类StringHelper (C#版)
- Java8 - 使用CompletableFuture 构建异步应用
- 在虚拟机上安装XP系统
- springboot tomcat配置_告诉你，Spring Boot 真是个牛逼货！
- Fiddler抓包使用教程-Https
- winfrom 从网页中通过源代码截取文章
- 如何卸载bytefence anti-malware
- 网页抓取软件-免费网页自动采集抓取任意内容软件
- 大数据时代，如何做商业智能产品选型
- uniapp微信授权+获取手机号+解密手机号（带图详解）
- MySQL中单引号、双引号和反引号的区别
- Scaled-YOLOv4: Scaling Cross Stage Partial Network 论文翻译
- 【Python】Mincoda安装 | Pycharm安装 | 关联conda环境
- Solaris10如何确认DirectIO是否已经启用
- 如何在工作中提升自己的学习能力
- js中的事件对象event （获取元素的,x,y坐标）
- 你可能不知道的css-doodle
- 微信公众平台图文消息客户端无法收到
- 详解HMM模型 及 实现（之一：problem1）
- 根据AutoCAD地形图建立ANSYS和Flac3D实体模型