【院士思维】张钹:我们正处在AI算法不可控的危险状态
来源:清华大学人工智能国际治理研究院
8月19日,2022世界机器人大会主论坛正式开幕,期间,有三位院士到场,就“未来机器人:目标、路径和挑战”的主题进行了一场深刻的谈话。
三位院士分别为中国科学院院士,清华大学计算机系教授、清华大学人工智能研究院名誉院长 、人工智能国际治理研究院学术委员会委员,微软亚洲研究院技术顾问的张钹;中国工程院院士、机器人技术国家工程研究中心主任,辽宁省科学技术协会主席,北京邮电大学自动化学院王天然;中国科学院院士,中国科学院自动化研究所研究员、机器人理论与应用专家乔红。
“
短短一个小时内,三位机器人领域的顶尖专家就人工智能与机器人的区别、智能机器人的未来、为什么要人机共融、机器人目前面临的伦理思考等多个话题进行了探讨。
人工智能与机器人的区别
在会上,张钹提到,第二代人工智能的算法是利用深度神经网络和对数据的训练来形成人工智能的,而纯粹靠数据驱动的方法必然不可解释、不可靠,因此即使机器人的智能还很低,但人工智能算法的不可控仍然可能使人类处于危险状态。
在很多人的印象里,“机器人”和“人工智能”好像是两个不分家的概念,甚至于现在的机器人只要一被提起,就自带“智能”的先天属性。然而,在张钹看来,机器人和人工智能是两个完全独立的领域。
“最明显的一点,它们的目标完全不同。人工智能是用机器来模仿人类的智能行为,追求的是机器行为与人类行为的相似性,甚至是越相似越好;而机器人则是为了协助人类完成一些本来是由人来完成的任务,追求的是完成任务或者人类信任。”张钹说。
而在这个以机器人为核心主题的世界机器人大会上,张钹也详细科普了机器人的三大主要研究内容:
执行结构;机器人的目的就是要(在物理世界里)完成任务,所以必须要有执行机构,这种机构可以是仿真动物,也可以建立在电机和齿轮传动的基础上。而这项内容在人工智能领域中就不一定要做。
能源;尤其是针对移动机器人,高效的能源是关键问题。
智能控制;这部分是一个“大口袋”,包括控制、人工智能、传感器和环境感知。
张钹表示,机器人的三大主要研究内容里,只有“智能控制”部分与人工智能有所重叠,这也就是为什么他认为说人工智能包含机器人,或者机器人包含人工智能都是不对的,这本身就是两个追求目标不同的学科。“所以我认为这两个领域的名字也起得不好,‘机器人’这个名字让大家误解成它是一个人或者必须像人;人工智能则让人家以为人工智能做智能的,但实际上人工智能只能在模仿智能行为,即智能的外部表现,并非在模仿智能。”张钹补充道。
智能机器人的未来
他也谈到了机器人的未来,同人工智能领域近些年热议的“通用人工智能”一样,机器人领域也有相似的争论:即系统是否需要具备一定的通用性,去完成很多任务?
在张钹看来,这个问题在人工智能领域是有讨论的必要性的,但是在机器人领域之中,没有必要做一个通用机器人去代替人,因为机器人本身就是为了完成一定的任务而制造的,比如专门做手术、专门举重等等,基本表现都是专用的,那么就不必让一个手术机器人去扛重。所以他预言,将来会使多种多样的智能机器人出现,每个机器人来完成一定或一类工作。
机器人目前面临的伦理思考
而要谈到机器人与人类的关系,那么必然还会面临另一个问题:伦理。
阿西莫夫认为,关于机器的伦理问题有两个需要思考的方面:机器人如果智能超过人类,或有意识以后,我们应该如何让机器人按照伦理准则来行为;人类如何按照伦理原则来设计和使用机器人。
张钹认为,上述两个方面表面看起来简单,实际上却关系到三大难题:
首先是标准和法规问题:什么是道德?什么时候不道德?这本身就有非常大的争议
对于人类来说,有人会在设计使用机器人的时候遵守伦理原则,但有些人不会
如果假设道德规范有了,还有涉及到机器人行为是否可控
张钹展开说明了第三个问题,他表示,如果机器人完全按照规则来执行,那就不是智能机器人,只有人类制造者给予了它一定的自主性,机器才能有创造性,才能逐渐学会自主解决问题,而这必然就要付出一个代价——机器人可能会不受控制。张钹说:“当20世纪人工智能发展起来以后,虽然机器人还处在智能很低的阶段,但我们已经处在了一个危险状态,为什么呢?因为我们处于不可控状态,比如说用深度学习的方法开发出来的人工智能算法没有可靠性保证的。”
张钹最后提到了人工智能的三次浪潮:第一次是1956年到1974期间的人工智能1.0,科学家将符号方法引入统计方法中进行语义处理,出现了基于知识的方法;20世纪80年代初至20世纪末则是人工智能2.0,与人工智能相关的数学模型取得了一系列重大发明成果,进一步催生了能与人类下象棋的高度智能机器;而从21世纪初开始至今,人工智能3.0的浪潮正在掀起。
“我们要提出来第三代人工智能,必须要解决第二代人工智能的算法不安全、不可靠、不可信、不可控的状态或问题,而这种担心现在看起来已经是一个近忧,而并非远虑了。”
未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。
如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
【院士思维】张钹:我们正处在AI算法不可控的危险状态相关推荐
- 中科院院士张钹:发展第三代AI技术,中美处在同一起跑线上
深度学习是人工智能领域里的一个研究方向,主要是学习样本数据的内在规律和表示层次,这些学习过程中获得的信息,对诸如文字,图像和声音等数据的解释有很大帮助.它的最终目标是让机器能够像人一样具有分析学习能力 ...
- AI大师张钹领衔,清华AI研究院推出知识计算开放平台
来源:网易智能 本文约1240字,建议阅读5分钟. 本文为你介绍知识智能研究中心成立仪式暨知识计算平台发布会主要内容,包括清华在人工智能方面的一系列新举措. 1月21日上午,清华大学人工智能研究院在清 ...
- 清华大学计算机学院张院士,清华大学张钹院士访问计算机学院
9月25日下午,中国科学院院士.清华大学计算机科学与技术系张钹教授访问我校计算机学院·软件学院.秦志光院长.徐谡书记等院领导班子.祝峰教授以及新进学院的青年博士教师等30余人参加座谈.座谈会由徐谡书记 ...
- 谷歌AI算法 助力可控核聚变研究
可控核聚变一直是人类追逐的理想.近日,据新智元报道,TAE技术公司与谷歌合作,在"验光师"AI算法的帮助下,让我们有望离这个梦想的实现更近了一些. 核聚变是太阳赖以发光的能量反应. ...
- AI TIME 发起人张钹院士:中国人工智能奠基者
点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入! 本文原载于:<人民日报海外版> (2021-08-30 09版) 张钹院士近影 张钹(左1)在实验室与博士生讨论(1995年 ...
- 院士张钹:第三代AI算法是符号主义和联结主义的整合
2019年11月1日北京智源大会闭幕式及全体会议中,中国科学院院士.智源研究院学术委员会主席张钹进行了主题演讲<迈向第三代人工智能>.这是自今年4月,张钹首次面对公众提出"第三代 ...
- 张钹院士:走向真正的人工智能 | CCF-GAIR 2018
来源:AI科技评论 摘要:6 月 29 日上午,清华大学研究院院长张钹院士为 CCF-GAIR 2018 主会场「AI 前沿技术」做了题为「走向真正的人工智能」(Towards A Real Arti ...
- 中国科学院院士张钹:人工智能目前只能在某些行为上尽量接近人
https://www.toutiao.com/a6697353909372977672/ 今日,由搜狐参与举办的"AI Time:论道AI安全与伦理"主题沙龙在清华科技园举办,会 ...
- 清华张钹院士、人大文继荣院长展开激情辩论:人类对AI的爱痴忧惧
来源:大数据文摘 作者:宋欣仪 本文共4000字,建议阅读8分钟. 本文为你分享张钹院士.人大文继荣院长对人工智能的爱痴忧惧. 未来我们有可能爱上我们的机器人吗?应该选择用隐私换安全还是拒绝一切侵入生 ...
最新文章
- 一份用动画演示操作系统的各个过程的资料
- 真全!GitHub上出现了一个353种语言资源的汇总
- linux使用pyodbc和freetds连接sqlserver
- 前端学习(224):iconfont矢量库
- 在线看大会!就来云栖号!
- matplotlib画图_漂亮,超详细的matplotlib画图基础
- 【New Feature】阿里云OSS同城区域冗余存储重磅发布,提供云上同城容灾服务能力!...
- 搜索 —— 暴力搜索
- 关于协程和 ES6 中的 Generator
- Linux安装的分区问题
- 笔记本Windows7系统安装教程
- 基于simulink的模糊PID控制器设计与仿真
- html中页面整体排版,html在不同尺寸浏览器窗口中页面排版混乱
- Git查询一定时间范围团队代码提交日志
- python第一行输入整数n、然后输入n行 每行三个字符串_B站2019秋招编程题思路解析[题目要素过多]...
- 需要良好的空气质量数据,希望您生活在一个富裕的社区
- 软件测试工程师职业规划
- 总有你不知道的,你说呢?
- 重磅!Apollo 5.0来了,百度变身「老司机」!
- 鸿蒙升级体验版,升级鸿蒙2.0公测版体验,没有安卓系统的碎片化,比ios更流畅...
热门文章
- 美国兰德公司《未来战争2030》(the Future of Warfare in 2030)系列研究报告概述(上)
- PyQt5设置快捷键
- 分布式数据库NoSQL(二)——MongoDB 数据库基本操作
- Android源码——Application源码解析
- UI设计中的IOS14设计规范
- i7 9750h和i5 8300h哪个好
- iEx.ec 创始人 Fedak 教授在 EDCON 峰会上的精彩演讲内容
- 小米11android auto,小米MIUI 11这几个隐藏功能,每个都很发烧,知道的才是真米粉...
- CSS内联样式的使用,吐血整理
- latex缩进与对齐_LaTex学术写作——设置段落 行间距 段间距 文本对齐方式