人工智能98%都认错，图像识别AI遇上对抗性图像竟变“瞎子”！
作者 | James Vincent
来源 | 数据与算法之美
在视觉方面，AI和人类的差距有多大？来自UC Berkeley等高校的研究人员创建了一个包含7500个“自然对抗实例”的数据集，在测试了许多机器视觉系统后，发现AI的准确率下降了90%！在某些情况下，软件只能识别2%-3%的图像。这样的AI若用在自动驾驶汽车上，后果不敢想象！
近几年来，计算机视觉有了很大的改善，但仍然有可能犯严重的错误。犯错如此之多，以至于有一个研究领域致力于研究AI经常误认的图片，称为“对抗性图像”。可以把它们看作计算机的光学错觉，当你看到树上有一只猫时，人工智能看到了一只松鼠。
▲AI把爬上树的猫误认为松鼠
研究这些图像是很有必要的。当我们把机器视觉系统放在AI安全摄像头和自动驾驶汽车等新技术的核心位置时，我们相信计算机和我们看到的世界是一样的。而对抗性图像证明并非如此。
对抗性图像利用机器学习系统中的弱点
但是，尽管这个领域的很多关注点都集中在那些专门设计用来愚弄AI的图片上（比如谷歌的算法把3D打印的乌龟误认为是一把枪），但这些迷惑性图像也会自然的出现。这类图像更令人担忧，因为它表明，即便不是我们特意制作的，视觉系统也会犯错。
▲谷歌AI误认为这只乌龟是枪
为了证明这一点，来自加州大学伯克利分校、华盛顿大学和芝加哥大学的一组研究人员创建了一个包含7500个“自然对抗实例”（natural adversarial examples）的数据集，他们在这些数据上测试了许多机器视觉系统，发现它们的准确率下降了90%，在某些情况下，软件只能识别2%-3%的图像。
下面就是一些“自然对抗实例”数据集的例子：
▲AI眼中是“沉船”，其实是虫子爬在枯叶上
▲AI眼中是“火炬”
▲AI眼中是“瓢虫”
▲AI眼中是“日晷”
▲AI眼中是“棒球运动员”
▲AI眼中是“人开卡丁车”
数据有望帮助培养更强大的视觉系统
在论文中，研究人员称这些数据有望帮助培养更强大的视觉系统。他们解释说，这些图像利用了“深层缺陷”，这些缺陷源于该软件“过度依赖颜色，纹理和背景线索”来识别它所看到的东西。
例如，在下面的图像中，AI错误地将左侧的图片当作钉子，这可能是因为图片的木纹背景。在右边的图像中，它们只注意到蜂鸟饲养器，但却错过了没有真正的蜂鸟存在的事实。
下面的四张蜻蜓照片，AI在颜色和纹理上进行分析后，从左到右依次会识别为臭鼬、香蕉、海狮和手套。我们从每张图片中都可以看出AI为什么会犯错误。
AI系统会犯这些错误并不是新闻了。多年来，研究人员一直警告说，利用深度学习创建的视觉系统是“浅薄”和“脆弱”的，它们不会像人一样灵活地理解世界上的一些几乎相同的细微差别。
这些AI系统在成千上万的示例图像上进行了训练，但我们通常不知道图片中的哪些确切元素是AI用于做出判断的。
一些研究表明，考虑到整体形状和内容，算法不是从整体上看图像，而是专注于特定的纹理和细节。本次数据集中给出的结果似乎支持这种解释，例如，在明亮的表面上显示清晰阴影的图片，会被错误地标识为日晷。
AI视觉系统真的没救了？
但这是否意味着这些机器视觉系统没得救了？完全不是。一般这些系统所犯的错误都是小错，比如将排水盖识别为沙井，将货车误认为豪华轿车等。
虽然研究人员说这些“自然对抗性的例子”会骗过各种各样的视觉系统，但这并不意味着可以骗过所有系统。许多机器视觉系统非常专业，比如用于识别医学扫描图像中的疾病的那些专门系统。虽然这些系统有着自己的缺点，可能无法理解这个世界和人类，但这并不影响它们发现并诊断癌症。
机器视觉系统有时可能会很快且有瑕疵，但通常都会产生结果。这样的研究暴露了机器成像研究中的盲点和空白，我们下一步的任务就是如何填补这些盲点了。
人工智能98%都认错，图像识别AI遇上对抗性图像竟变“瞎子”！相关推荐
- AI图像识别遇上对抗性图像竟变“瞎子”
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 [导读]在视觉方面,AI和人类的差距有多大?来自UC Berkel ...
- 图像识别AI遇上对抗性图像变“瞎子”，准确率猛降90%
https://www.toutiao.com/a6715945584722706956/ 在视觉方面,AI和人类的差距有多大?来自UC Berkeley等高校的研究人员创建了一个包含7500个&qu ...
- 人工智能(AI)遇上仿制药
仿制药比同类新药需要更少的研发.用于研发的AI应用似乎并不是仿制药公司最突出的解决方案.尽管缺乏优先级,但AI可能在很多领域可以帮助仿制药公司. 本文讨论了仿制药行业中人工智能的可能实现,如 查找生物 ...
- 区块链、AI遇上艺术，科技突破艺术的想象空间
近期,在中国最高的美术馆--上海云间美术馆,来自人工智能和区块链领域的专家.高校学者和知名艺术家,共同展开了一场关于区块链.人工智能和数字艺术的深度交流,探讨区块链和人工智能赋能数字艺术的新方向. 与 ...
- 90％人工智能公司都亏损？AI盈利难背后的大数据门槛
AI落地场景在不断增多,但赚钱依旧艰难. 根据亿欧报告显示,2018年全年,近90%的人工智能公司处于亏损状态,而10%赚钱的企业基本是技术提供商.从谈概念.讲技术,到拼场景.抢落地,建立在大数据基础 ...
- AI遇上强迫症，大脑与情绪的羁绊有解了
年关将近,很多人已经走在了各种规划和整理的路上.无论是年货物品的置办,还是家里的深度打扫,都已经提上了日程. 对于悠闲散漫的人来说,找阿姨提前三天来打扫也可.要是家里没有聚会的可能,有的人可能什么也不 ...
- 戈登贝尔奖获得者张林峰：当AI遇上物理模型，会有怎样的质变？ | 智源专访...
智源社区「源创播客」栏目将持续邀请AI创业不同赛道上崭露头角的新星和资深创业者分享创业实践和创业故事.本期邀请到的对话嘉宾是北京深势科技公司创始人及首席科学家张林峰. 张林峰,北京深势科技公司创始人及 ...
- AI遇上建筑设计，是出圈还是翻车？
AIGC 落地,始于场景,终于价值. 去年以来出现了 AIGC 热潮,引发了 AIGC 及其应用话题的爆发性增长,不少人感慨强人工智能的时代已经离我们不那么遥远了.但是在热潮的另一面,我们看到真正能落 ...
- 教学玩耍两不误，当AI遇上Bingo游戏！
近日,麻省理工学院(MIT)设计了一款Bingo游戏,这款游戏经由9至14岁的孩子测试并建立在研究的基础上,旨在探索如何让孩子们接触科技以培养他们对STEM的兴趣. 1 关于Bingo游戏 人工 ...
最新文章
- 找不到工作，一程序员去帮屠夫卖猪肉 | 每日趣闻
- Mysql性能优化二
- numpy 筛选面积最大
- python爬虫教程网-python爬虫入门10分钟爬取一个网站
- 只开窗不镀锡_翡翠为什么要开窗？？————开窗有哪几种？
- 服务器端Session和客户端Session
- 13 python初学（函数）
- facebook对话链接_如何应用防错原则，看看 Facebook 和 Gmail 是怎么做的
- 最强大的人工智能系统 | NVIDIA DGX-2
- centos 虚拟机 使用串口_在VMware虚拟机环境下安装CentOS 7操作系统
- 多线程python实现方式_python多线程的两种实现方式（代码教程）
- 10.Web组件复用
- 仿58网，赶集网，百姓网swfupload图片上传效果(asp.net 2.0)
- spring gateway 限流持久化_Spring Cloud Gateway网关如何快速实施限流方案？-Part 6
- (转) 用虚函数实现多态
- 第九章：Servlet工作原理解析
- Java项目：SSM问卷调查系统
- linux双网卡透明网桥,两种网桥透明网桥和源路由选择网桥
- layaair的TS版本报错问题
- 【100%通过率 】华为OD真题c++/java/python【完美走位】【 2022 Q4 | 100分】