机器学习李宏毅学习笔记22
文章目录
- 前言
- 一、攻击是什么
- 二、如何攻击
- 总结
前言
来自人类的恶意攻击(上)
一、攻击是什么
对于影像辨别,在图片上加入一个小的杂讯(图片向量每个维度上加上一个小的杂讯),加入杂讯的图片叫做attacked image,原来的图片叫做benign image。希望attacked image和benign image经过image classifier得到的结果不同。
攻击可以分为没有目标的攻击和有目标的攻击。Non-targeted只要让network的输出不是原图片的结果就算成功。Targeted要让network输出为一个特定的分类。
肉眼分辨不出差别的情况下,network认为他是另一个分类。
二、如何攻击
如何找到non-targeted杂讯,将一个张图片输入到network,希望network的输出和真实值差距越大越好,这样就算攻击成功。定义一个loss函数L,L是输出值和真实值得差距的负数,希望L越小越好,这样真实值和输出值间差距就越大。
如何找到target杂讯,这个loss函数不仅要求输出和真实值差距大,还同时要求和特定分类的差距越小越好。此时L在原来的基础上加上输出值和特定值得差距。
在这基础上还不够,还希望加入的杂讯越小越好。即x0和x越接近越好。解这个问题的时候还要加入一个限制d(x0,x)≤一个值,这个值基于人类的感知决定,即大于这个值时,人类可以感觉到这个杂讯。
如何计算x0和x间的距离,假设x和x0是两个向量。
距离可以是L的norm,也可以是L的infinity。
考虑用哪个方法计算时,要把人类的感知考虑进来。L-infinity可能是更合适的,应为对于同一张图片的修改,人类对于一个部分的最大修改往往比较敏感,每个部分全修改一点,和一个部分修改很多,人类可能只对后者有感知。
这个问题现在需要找到x使Loss最小,同时x和x0的距离要小于一个阈值。
先只考虑Loss,这个过程像训练一个模型。Gradient descent初始化的值设为x0比较好,因为要找到的x越接近x0越好,所以从x0找比较好。在这个基础上考虑x和x0的差距,update x后,因为x只能存在在一个范围内,如果update后的x,超出这个范围,就选择在范围内和x最近的一个替代他。
总结
学习视频地址:https://www.bilibili.com/video/BV13Z4y1P7D7/?p=23&spm_id_from=333.1007.top_right_bar_window_history.content.click&vd_source=3a369b537e1d34ff9ba8f8ab23afedec
机器学习李宏毅学习笔记22相关推荐
- 机器学习李宏毅学习笔记35
文章目录 前言 一.Meta learning 1.第一步 2.第二步 3.第三步 二.machine learning 和 meta learning区别 总结 前言 Meta learning元学 ...
- 机器学习李宏毅学习笔记33
文章目录 前言 一.神经网络压缩 二.Network pruning----一种network compression技术 1.移除不同单位的区别 2.大乐透假说 总结 前言 神经网络压缩(一) 类神 ...
- 机器学习李宏毅学习笔记37
文章目录 前言 一.ChatGPT做的事情 二.ChatGPT基础介绍 三.ChatGPT带来的研究问题 总结 前言 ChatGPT简单原理介绍 一.ChatGPT做的事情 Chatgpt以句子为输入 ...
- 机器学习入门学习笔记:(4.2)SVM的核函数和软间隔
前言 之前讲了有关基本的SVM的数学模型(机器学习入门学习笔记:(4.1)SVM算法).这次主要介绍介绍svm的核函数.软间隔等概念,并进行详细的数学推导.这里仅将自己的笔记记录下来,以便以后复习查看 ...
- python嵩天课堂笔记_[Python机器学习]强化学习笔记(嵩天礼欣老师mooc第三周)
[Python机器学习]强化学习笔记(嵩天礼欣老师mooc第三周) [Python机器学习]强化学习笔记(嵩天礼欣老师mooc第三周) 目录 强化学习 定义 马尔科夫决策过程 基本元素 值函数 最优值 ...
- Ext.Net学习笔记22:Ext.Net Tree 用法详解
上面的图片是一个简单的树,使用Ext.Net来创建这样的树结构非常简单,代码如下: <ext:TreePanel runat="server"><Root> ...
- 机器学习入门学习笔记:(3.2)ID3决策树程序实现
前言 之前的博客中介绍了决策树算法的原理并进行了数学推导(机器学习入门学习笔记:(3.1)决策树算法).决策树的原理相对简单,决策树算法有:ID3,C4.5,CART等算法.接下来将对ID3决策树算法 ...
- 机器学习入门学习笔记:(2.3)对数几率回归推导
理论推导 在以前的博客(机器学习入门学习笔记:(2.1)线性回归理论推导 )中推导了单元线性回归和多元线性回归的模型. 将线性回归模型简写为:y=ωTx+by = \omega^Tx+b: ...
- 机器学习入门学习笔记:(2.2)线性回归python程序实现
上一篇博客中,推导了线性回归的公式,这次试着编程来实现它.(机器学习入门学习笔记:(2.1)线性回归理论推导 ) 我们求解线性回归的思路有两个:一个是直接套用上一篇博客最后推导出来的公式:另一 ...
- 吴恩达《机器学习》学习笔记十四——应用机器学习的建议实现一个机器学习模型的改进
吴恩达<机器学习>学习笔记十四--应用机器学习的建议实现一个机器学习模型的改进 一.任务介绍 二.代码实现 1.准备数据 2.代价函数 3.梯度计算 4.带有正则化的代价函数和梯度计算 5 ...
最新文章
- 抖音小程序微信小程序五角星型评分插件自定义分数组件
- index seek与index scan
- php 输出缓冲区清理
- 1034. 二哥的金链
- atomic原子类实现机制_并发编程:并发操作原子类Atomic以及CAS的ABA问题
- oracle—ebs_采购功能点操作手册,oracle—EBS_采购功能点操作手册
- 多视角半监督学习:从文本数据中得到不同视角
- Linux赋予目录或文件任何人都可以读、写、执行的操作
- hexo html代码高亮,使用 prismjs 自定义 Hexo 代码高亮
- Python为你打开一扇门
- Android学习之基础知识十一 —运用手机多媒体
- TreeSet(不可重复,自动排序)实现自定义排序
- cocos2d-x 3.0rc1 编译cpp-testsproject
- “IT 变革” 云 = 美国道富银行砍掉了850个IT职位
- 解决:samba 无法访问,您可能没有权限使用网络资源,请与这台服务器管理员联系 指定的网络名不可用
- 5G端到端时延要求1ms是个什么概念?
- 推荐一个免费服务器网站|亲测可用
- 什么是蛋白质结构域?什么是HTH?
- 信息熵与压缩编码基础
- 打印英文字母阵列c语言,UG软件做英文字母的阵列自动递增,这个方法太好用了!...