脸书 AI 识别误将黑人标记为「灵长类动物」
整理 | 禾木木
出品 | AI科技大本营（ID:rgznai100）
最近，Facebook用户在观看一段以黑人为主角的视频时，会看到一个自动生成的提示，询问他们是否愿意“继续观看灵长类动物的视频”。
视频的内容其实是几个黑人和警察发生了争执。
这在网上引起了网友的愤怒。
Facebook发言人接受采访时表示，这是“明显不可接受的错误”，并表示涉及的推荐功能已下线。
“我们的 AI 并不完美，还需要改进”
该视频是由《每日邮报》2020年6月27日发布。
视频中有白人、黑人和警察，他们之间发生了一些争执，并且视频内容与灵长类动物无关。
针对此事，前 Facebook 内容设计经理 Darci Groves 在推特生发出该推荐提示截图，并表示这令人无法接受。Groves 还将其发布到一个面向 Facebook 现任和前任员工的产品反馈论坛。作为回应，Facebook 视频平台 Facebook Watch 的产品经理称其「不可接受」，并表示该公司正在「调查根本原因」。
Facebook 拥有世界上最大的用户上传图像存储库之一，用于训练其面部和对象识别算法。Facebook 发言人 Dani Lever 在一份声明中表示：“正如我们所说，尽管我们对人工智能进行了改进，但我们知道它并不完美，我们还有很多改进要做。我们向任何可能看到这些冒犯性推荐信息的人道歉。”
AI 种族歧视，并不是个例
可以看出，此次推荐信息的错误是来自于 AI 系统存在的偏见。
早在之前，就有谷歌、亚马逊、Flickr等多家科技公司都曾因其人工智能系统中存在的偏见，有研究表明面部识别技术因存在种族偏见导致识别困难，甚至曾有报道称黑人因 AI 存在的问题而受到歧视。
2015 年，Google 更新了其照片应用，加入了一个自动标签功能，通过机器识别照片中内容进行自动分类并打上标签，方便管理和搜索。但不成熟的技术惹了大麻烦。纽约布鲁克林的黑人程序员Jacky Alcine惊讶地发现，她和一位女性朋友(也是黑人)的自拍照标记为「大猩猩（Gorillas）」，谷歌当即深表歉意，并表示将立即解决问题。
然而两年后，《Wired》杂志发现谷歌的解决方案仅仅是防止将任何图片标记为大猩猩、黑猩猩或猴子。
随后谷歌证实，在2015 年之后，为了解决这一错误，谷歌直接从搜索结果中删除了这一词条的标签。
结 语
有人认为：这是一个复杂的计算机视觉问题。
有人评论：但是人类不会犯这种低级的错误，为什么 AI 会呢？
还有人评论：算法对于这种人脸识别的经验较少，并且不知道如何将它们归类。
对于数据及其标注的质量和公平性可能还有很长的路需要探索。
所以，AI 识别图片你怎么看呢？
参考链接：
https://news.ycombinator.com/item?id=28415582
脸书 AI 识别误将黑人标记为「灵长类动物」相关推荐
- Facebook人工智能副总裁：AI 这一领域很快就会「碰壁」
导语:我们应该看到目前深度学习方法的局限性 Jerome Pesenti 在全球最具影响力和争议的公司之一 Facebook 领导人工智能技术的发展.作为 Facebook 人工智能副总裁,他管理着数 ...
- 知乎要用AI打造智能社区，专治「答非所问」的瓦力机器人已上线
允中 发自 凹非寺 量子位 报道 | 公众号 QbitAI 知乎涉足AI,已然不是新消息. 去年7月,量子位专文报道过知乎在机器学习方面的运用.当时知乎合伙人李大海,分享了AI在知乎内容分发中的具体 ...
- 把照片唱给你听 | 腾讯AI Lab国际领先技术邀你「趣」体验
感谢阅读腾讯AI Lab微信号第10篇文章.本文介绍了我们在图像描述生成与TTS等技术跨界的前沿研究进展,并邀请大家测试一个趣味Demo.我们还会分享在多媒体内容AI应用上一点思考. 2017年8月, ...
- AI寒冬论作者再发文：「深」度学习对数据的理解太「浅」了
http://blog.itpub.net/29829936/viewspace-2641915/ 2019-04-18 14:29:14 AI 寒冬论作者 Filip Piekniewski 再次发 ...
- AI也搞种族歧视，误将黑人标记为灵长类动物
整理 | 祝涛 出品 | CSDN(ID:CSDNnews) Facebook的人工智能在一段有关黑人的视频上误贴"灵长类"标签,于是Facebook在近日道歉,称这是一个&quo ...
- 高空抛物悲剧频出，AI 监控系统：让我来「罩」着你
来源:HyperAI超神经本文约2500字,建议阅读6分钟高空抛物是现代社会的一大顽疾,一直以来都缺乏有效监控手段.安防公司借助人工智能技术,利用视频与图像分析,给出了监管高空抛物的解决方案. 关键词 ...
- 不要再「外包」AI 模型了！最新研究发现：有些破坏机器学习模型安全的「后门」无法被检测到...
来源:AI科技评论 作者:王玥.刘冰一.黄楠 编辑:陈彩娴 一个不可检测的「后门」,随之涌现诸多潜伏问题,我们距离「真正的」机器安全还有多远? 试想一下,一个植入恶意「后门」的模型,别有用心的人将它隐 ...
- 微软旷视人脸识别100%失灵!照片「隐身衣」,帮你保护照片隐私数据
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处. 左图,右图,你能看出区别吗? 其实,算法已经悄悄给右边的照片加上了微小的修改. 但就是这样肉眼根本看不出来的扰动,就能10 ...
- 微软旷视人脸识别100%失灵！北京十一学校校友新研究「隐身衣」，帮你保护照片隐私数据...
萧箫 鱼羊 发自 凹非寺 量子位 报道 | 公众号 QbitAI 左图,右图,你能看出区别吗? 其实,算法已经悄悄给右边的照片加上了微小的修改. 但就是这样肉眼根本看不出来的扰动,就能100%骗过来自 ...
最新文章
- Xt800、DEFY自带号码归属地更新包，更新至2013.4【数据总数278360条】
- 时间序列、时间序列分析、时间序列效应分解、平稳时间序列、AIC和BIC
- 【设计模式】命令模式 ( 简介 | 适用场景 | 优缺点 | 代码示例 )
- c莫比乌斯函数_代佳璇缘起一条莫比乌斯环，我爱上了难缠的数学！
- B12_Numpy字符串函数（add,multiply,center,capitalize,title,lower,upper,split,join,replace,decode,splitline）
- 显卡风扇不转电脑黑屏_隔壁妹子电脑坏了怎么办，简单易懂电脑维修方法与技巧收藏备用...
- python如何定义自定义函数_python类中系统自定义函数
- c大小写转换函数_字符处理——大小写转换编程思路扩展
- matlab 创建批量文件夹_学会这12个批量操作，从此告别加班！
- ubuntu 出错 /etc/sudoers is world writable
- Docker仓库介绍和镜像加速器
- 电路板上各种标志的含义
- 网络流（Network Flow）
- 【CodeForces】[372A]Counting Kangaroos is Fun
- 在最美的时候，你遇见了谁？
- 学会这几个软件，你就可以获得次时代建模师称号！
- 关于XUtils的View 注入解析
- 2021百度Create大会（暨百度AI开发者大会）
- pytorch 报告bug： Assertion idx_dim ＞= 0 idx_dim ＜ index_size “index out of bounds“
- 【Python语言基础】——Python 删除文件