AI也搞种族歧视，误将黑人标记为灵长类动物

整理 | 祝涛
出品 | CSDN（ID：CSDNnews）

Facebook的人工智能在一段有关黑人的视频上误贴“灵长类”标签，于是Facebook在近日道歉，称这是一个“不可接受的错误”，该公司正在调查以防止类似事件再次发生。

据《纽约时报》报道，Facebook用户称其最近观看了一个来自英国小报的黑人视频，然而却收到了一个自动提示，询问他们是否愿意继续观看关于灵长类动物的视频。该公司立即调查并禁用推送该消息的AI功能。

这段视频拍摄于2020年6月27日，来源于《每日邮报》（The Daily Mail），内容涉及黑人男子与白人平民以及警察发生争执的片段，与灵长类动物没有任何关系。

曾在Facebook担任内容设计经理的Darci Groves说，一个朋友最近给她发了一张自动提醒的截图。然后，她把这篇文章发布到一个Facebook员工的产品反馈论坛上。作为回应，该公司的视频服务Facebook Watch的一名产品经理称这是“不可接受的”。周五，Facebook为其所谓的“不可接受的错误”道歉，并表示正在调查推荐功能，以“防类似事件再次发生”。 “正如我们所说，虽然我们对人工智能进行了改进，但我们知道它并不完美，我们还需要一直改善。我们向任何看到这些无礼推荐消息的人道歉。”

这一事件只是人工智能工具显示性别或种族偏见的最新例子。谷歌、亚马逊和其他科技公司多年来一直因其人工智能系统存在偏见而受到审查，尤其是种族问题。研究表明，面部识别技术对有色人种有偏见，识别有色人种更困难，导致黑人在使用电脑的过程中受到歧视甚至因电脑错误被捕。

2015年，谷歌照片错误地将黑人的照片贴上了“大猩猩”的标签，对此谷歌表示“非常抱歉”，并将立即解决这个问题。两年多后，有媒体发现，谷歌的解决方案是审查搜索中的“大猩猩”一词，同时屏蔽“黑猩猩”和“猴子”等词汇。去年，脸书表示正在研究其使用人工智能(包括Instagram)的算法是否存在种族偏见。

今年4月，美国联邦贸易委员会(US Federal Trade Commission)警告称，显示出“令人不安的”种族和性别偏见的人工智能工具，如果被用于信贷、住房或就业决策，可能将违反消费者保护法。

参考链接：

https://www.theverge.com/2021/9/4/22657026/facebook-mislabeling-video-black-men-primates-algorithm

https://www.nytimes.com/2021/09/03/technology/facebook-ai-race-primates.html

AI也搞种族歧视，误将黑人标记为灵长类动物相关推荐

脸书 AI 识别误将黑人标记为「灵长类动物」
整理 | 禾木木出品 | AI科技大本营(ID:rgznai100) 最近,Facebook用户在观看一段以黑人为主角的视频时,会看到一个自动生成的提示,询问他们是否愿意"继续观看灵长类动 ...
【2022 CCF BDCI 文心大模型创意项目】AI一键搞定全套写文稿
★★★ 本文源自AI Studio社区精品项目,[点击此处]查看更多精品内容 >>> [2022 CCF BDCI 文心大模型创意项目]AI一键搞定全套写文稿加配图(文心大模型图文创 ...
腾讯AI翻译搞砸成笑话，马化腾仅给你勇气就够了？
作者|震霆出品|遇见人工智能公众号|GOwithAI 久久不见久久见,久久见过还想见. 今天上午主席一句海南经典民歌拉开了博鳌亚洲论坛的大幕. 博鳌亚洲论坛的规 ...
爆火AIGC产品卷翻海外营销：AI一键搞定美工和拍摄，抠图PS设计样样精通，月活迅速破百万...
允中发自凹非寺量子位 | 公众号 QbitAI 第一批被AI抢饭碗的设计师已经出现了. 随着各个互联网大厂纷纷发布如何将AI工具融入日常工作流中,美工.设计.原画等众多岗位纷纷出现了裁员爆料,毫 ...
智能家居手势识别，只需百度AI即可搞定
上次我尝试做了一个给眼镜加特效,针对的是静态图像,具体文章参考 https://ai.baidu.com/forum/topic/show/942890 . 这次我尝试在视频中加眼镜特效,并且加上手势 ...
经典搞笑口误，娱乐一下
1. 碗掉下来,天大个疤 2.一次文艺晚会,主持人上台报幕:下面请欣赏:新疆歌舞,掀起你的头盖骨!毛骨悚然!!!!! 3.老虎不发猫,你当我是病危呀! 4.上高中时,课堂纪律混乱,老师一怒之下揪起XX ...
[娱乐]经典搞笑口误，娱乐一下
1. 碗掉下来,天大个疤 2.一次文艺晚会,主持人上台报幕:下面请欣赏:新疆歌舞,掀起你的头盖骨!毛骨悚然!!!!! 3.老虎不发猫,你当我是病危呀! 4.上高中时,课堂纪律混乱,老师一怒之下揪起XX ...
看后视镜扣钱？AI 摄像头监控下的货车司机
生活在科技领先时代的我们,每天无不被算法支配着,从衣食住行到工作中的决策参考.以前在电影中见到的AIer控制人类的场景,越来越现实化. 在AI算法不断优化地前提下,有些企业直接通过AI来给员工打绩效, ...
AI 盯上了外包司机，看后视镜就被扣分，奖金拜拜！
整理 | 梦依丹来源 | CSDN 生活在科技领先时代的我们,每天无不被算法支配着,从衣食住行到工作中的决策参考.以前在电影中见到的AIer控制人类的场景,越来越现实化. AI算法不断优化之下,有些 ...

AI也搞种族歧视，误将黑人标记为灵长类动物

AI也搞种族歧视，误将黑人标记为灵长类动物相关推荐

最新文章

热门文章