AI大牛“认输”退网：多人种人脸数据可以有效去偏见
作为第四次工业革命的新引擎，人工智能的高速发展已经到了关键时刻，但是以算法偏见为代表的技术伦理问题逐渐成为人工智能发展的绊脚石。
近日，杜克大学研究人员研发的PULSE算法被质疑存在“严重种族歧视”，人工智能领军人物Yann LeCun对此作出回应，评论一出便引发了关于算法偏见的激烈论战。
在CVPR 2020上，杜克大学的研究人员提出了一种超分辨率算法（PULSE），该算法可以将部分模糊的人脸图像进行清晰化处理。
算法计算生成的图片甚至可以清晰呈现人脸上毛孔、皱纹以及发丝，效果不可谓不震撼。
有网友用美国前总统奥巴马的模糊照片进行试验，但超分辨率处理后的结果是一张白人的面孔，因此PULSE算法被质疑存在偏见。
人工智能专家Yann LeCun将此现象归因为数据集的偏差，因为算法所用的训练数据集中大多是白人的人脸，因此特征的分布会向白人人脸倾斜。
虽然Yann LeCun从技术路径解释了这一问题，但是由于话题的高度敏感性，该解释并不能说服广大推特用户。话题不断发酵，甚至出现了对算法推理机制不可知论的担忧。
同样的问题也发生在MIT开发的Tiny Images数据集上。该数据集创建于2008年，适用于训练AI的系统，在图像识别等机器学习模型中得到了广泛的运用。
但是该数据同样涉及种族歧视、性别歧视等问题，使得系统在识别人像的时候可能会自动地将有色人种或女性标记上含歧视性质的标签。因此，MIT永久下架了近亿条数据。
算法偏见，就是人工智能算法在收集、分类、生成和解释数据时产生的与人类相同的偏见或歧视，主要表现为种族歧视、年龄歧视、性别歧视、消费歧视、就业歧视、弱势群体歧视等现象。
根据皮尤研究中心2018年发布的《Public Attitudes Toward Computer Algorithms》显示，58％的美国人认为计算机程序反映出一定程度的人为偏见，并且40％的人认为可以通过无偏见的方式设计这些程序。
消除偏见最有效、最直接的方法就是开发更加丰富的数据源类型，平衡采集的数据中关于种族、肤色、年龄、性别的分布，构建更公平的数据集。
为了规避这一“偏见”带来的风险，数据堂面向多人种人脸处理识别技术，设计并制作了23349人多色人种人脸多姿态数据。数据堂严格遵守GDPR条款，已获得质量管理体系认证和信息安全管理体系认证，所采集的多色人种人脸均已获得被采集人的授权。
东南亚人人脸多姿态样例
数据集包含黄种人、黑人、白人、棕色人种和印度人，每个人采集29张图像，涵盖28张多光照、多姿态、多场景图片和1张证件照。
印度人人脸多姿样例
通过对AI行业目前比较缺乏的人种人脸进行采集，本数据集旨在改善客户算法中的特征偏移，提高客户算法的特征描述准确性。
谷歌此前提出了AI研究的七大准则：有益于社会、避免创造或增强偏见、为保障安全而建立和测试、对人们有说明义务、整合隐私设计原则、坚持高标准的科学探索、根据原则确定合适的应用。
数据堂始终坚持加强技术伦理建设、坚持科技向善的理念。目前，数据堂在多色人种人脸标注方面积累了丰厚的经验，能够有效避免因数据集的偏差带来的算法偏见，客户可以放心使用。
备注：文中所示的人脸采集样例均已获得被采集人授权
AI大牛“认输”退网：多人种人脸数据可以有效去偏见相关推荐
- 四位顶级AI大牛纵论：深度学习和大数据结合的红利还能持续多久？
这轮 AI 热潮的很大一个特点就是底层技术方面在打通,虽然说过去对通用人工智能大家曾经有过很高的期望,但一直没有落地.这次,深度学习给大家带来了很多机会,使得我们在底层技术方面有了越来越多的共性.然而 ...
- 我们终将泄露的人脸数据，后果到底有多可怕？
人脸识别正在不可阻挡地走向娱乐化. 从朋友圈里的AI面相识别小程序,到走进大街小巷的AI测肤,无一不是热火朝天. 这种情形不禁让人感叹,互联网的记忆果真连金鱼都不如.想当初iPhone X刚刚推出人脸 ...
- 苏宁入局区块链；山东用阿里的AI抓违建；印度拟让苹果退网 | 极客头条
「CSDN 极客头条」,是从CSDN网站延伸至官方微信公众号的特别栏目,专注于一天业界事报道.风里雨里,我们将每天为朋友们,播报最新鲜有料的新闻资讯,让所有技术人,时刻紧跟业界潮流. 快讯速知 三大运 ...
- 美国AI公司30亿人脸数据被黑，遭科技巨头联合“封杀”
整理&责编 | 夕颜 出品 | CSDN(CSDNnews) 近日,一家美国AI创业公司Clearview AI泄露客户超过30亿人脸数据的丑闻掀起轩然大波,人脸识别技术的安全性与隐私保护再度 ...
- 又一AI大牛重返学界！ 原京东高级副总裁周伯文受聘为清华电子工程系长聘教授...
作者丨好困 袁榭 来源丨新智元 [导读]5月30日,又一名原先叱咤业界的AI强人重返学术界了,原京东AI业务负责人周伯文被清华大学电子工程系聘为长聘教授. 刚刚,清华大学官宣:聘任周伯文博士为电子工程 ...
- AI大牛们都去哪儿了：2016年度AI人才流动大盘点 | 2016 影响因子
2016年频繁曝出人工智能学术和研究大牛投身工业界的消息,这意味着AI从实验室到街头巷尾的"落地"又迈进了一大步. 在学术界,今年主要的人事流动包括:李飞飞.Russ Salakh ...
- 离开百度的41位AI大牛，现在都去了哪里？
▼ 点击上方蓝字 关注网易智能 为你解读AI领域大公司大事件,新观点新应用 文 | 李诗 来自雷锋网(leiphone-sz) 昨日,陆奇离开百度的消息备受关注.除了陆奇为什么离开百度以外,另一个大家 ...
- 北大清华“合并开班”：AI大牛朱松纯带队，面向元培和自动化系招生
明敏 发自 凹非寺 量子位 报道 | 公众号 QbitAI 早就有风声传出的北大通班,现在正式官宣了! 让人意想不到的是,北大居然拉来了清华联手开班,组成了最强联合plus! 在庆祝清华大学110周年 ...
- 【竞赛总结】CCF多人种人脸识别
题目:多人种人脸识别 类型:人脸识别 https://datafountain.cn/competitions/348 赛题背景 人脸识别已经在生活中快速的普及开来, 但是人脸识别技术在实际应用中遇到 ...
最新文章
- 服务器php环境一键配置,phpstudy一键配置服务器环境教程
- GS01创建信息集及其他GROUP在ABAP程序中的调用方法
- 【Thymeleaf】获取绝对路径
- 【简单解法】1093 字符串A+B (20分)_16行代码AC
- CF1628A-Meximum Array【二分】
- LeetCode 1363. 形成三的最大倍数（贪心，难）
- java long常量池_Java提高篇之常量池
- 感恩节（美食火鸡大餐）PNG免扣素材 总有一款你用得上
- 基于JAVA+SpringMVC+Mybatis+MYSQL的网上书城
- 2021年四川省副高考试成绩查询,2021年四川省教育考试院成绩查询登录入口
- 程序员的《学习之道》
- 1 / 1 / 2016
- 最全TCP/UDP端口号整理
- [qq机器人]nonebot2 群管插件2.0
- 人人都是产品经理（互联网产品经理的第一本书，马云力荐！）
- 数据库连接池原理之手写
- KEIL编程中如何重定义printf()函数，以便在后来的开发中使用此函数进行串口数据输出
- 联想y7000电脑未正确启动_win10无法开机提示“你的电脑未正确启动”的解决方案...
- 干货丨时序数据库DolphinDB脚本语言的混合范式编程
- 计算机专业答辩开场白,毕业论文答辩开场白