算法、数据和算力被视为推动人工智能发展的三大要素,其中算力更是被形容为支撑人工智能走向应用的“发动机”。人工智能研究组织OpenAI最近指出,“高级人工智能所需的计算能力每三个半月就会翻一番”。

近日,脸谱(Facebook)人工智能副总裁杰罗姆·佩森蒂在接受《连线》杂志采访时认为,AI科研成本的持续上涨,或导致我们在该领域的研究碰壁,现在已经到了一个需要从成本效益等方面考虑的地步,我们需要清楚如何从现有的计算力中获得最大的收益。

那么,为何人工智能需要如此强大的计算能力?计算能力是否会限制人工智能的发展?我们能否不断满足人工智能持续扩大的计算需求?

 1 

人工智能“动脑” 背后算力消耗惊人

“2016年3月,谷歌人工智能阿尔法围棋(AlphaGo)战胜韩国棋手李世石时,人们慨叹人工智能的强大,而其背后巨大的‘付出’却鲜为人知——数千台服务器、上千块CPU、高性能显卡以及对弈一场棋所消耗的惊人电量。”远望智库人工智能事业部部长、图灵机器人首席战略官谭茗洲在接受科技日报记者采访时表示。

“相比云计算和大数据等应用,人工智能对计算力的需求几乎无止境。”中国工程院院士、浪潮集团首席科学家王恩东指出。

据介绍,人工智能最大的挑战之一是识别度不高、准确度不高,提高准确度就要提高模型的规模和精细度,提高线下训练的频次,这需要更强的计算力。准确度也是算出来的,比如大型互联网公司或者知名人工智能创业公司,有能力部署规模比较大的人工智能计算平台,算法的模型已经达到千亿参数、万亿的训练数据集规模。

“现在人工智能运用的深度学习框架,多数依赖大数据进行科研训练,形成有效模型,这些都需要较高的计算力。”谭茗洲指出,当前随着人工智能算法模型的复杂度和精度愈来愈高,互联网和物联网产生的数据呈几何倍数增长,在数据量和算法模型的双层叠加下,人工智能对计算的需求越来越大。无疑,人工智能走向深度学习,计算力已成为评价人工智能研究成本的重要指标。可以说,计算力即是生产力。

 2 

数据搬运频繁 “内存墙”问题凸显

人工智能为何如此耗费算力?具体而言,在经典的冯·诺伊曼计算机架构中,存储单元和计算单元泾渭分明。运算时,需要将数据从存储单元读取到计算单元,运算后会把结果写回存储单元。在大数据驱动的人工智能时代,AI运算中数据搬运更加频繁,需要存储和处理的数据量远远大于之前常见的应用。当运算能力达到一定程度,由于访问存储器的速度无法跟上运算部件消耗数据的速度,因此再增加运算部件也无法得到充分利用,就形成了所谓的冯·诺伊曼“瓶颈”或“内存墙”问题。这就如同一台马力强劲的发动机,却因为输油管的狭小而无法产生应有的动力。

显然,频繁的数据搬运导致的算力瓶颈,已经成为对更为先进算法探索的限制因素。而算力瓶颈对更先进、复杂度更高的AI模型的研究将产生更大影响。

王恩东曾指出:“计算力的提升对体系结构提出挑战。在半导体技术逐步接近极限的情况下,计算机发展迎来体系结构创新的黄金期,计算力的提升将更多通过体系结构创新来满足。”

据了解,最先进的自然语言处理模型XLNet约有4亿模型参数。据估算,人脑中细胞间互联轴突个数在百万亿到千万亿数量级。显然AI在认知问题上离我们追求的所谓通用人工智能还有巨大差距,而要达到通用人工智能的水平,预计研究所需要的计算能力和计算系统的能源效率将比现在至少提高几个数量级。因此人工智能要进一步突破,必须采用新的计算架构,解决存储单元和计算单元分离带来的算力瓶颈。

谭茗洲说,目前人工智能的无用计算较多。现在人工智能还像不断灌水一样,处在输入数据、调整参数的阶段,是个“黑盒子”模式,特别在图片视频方面消耗很多能量,而其中真正的有效计算却不多,非常浪费能源。今后AI有待在“可解释性”上进行突破,搞清是什么原因导致后面的结果,这样可以精准运用数据和算力,大大减少运算量。这也是目前重要的研究课题,将大大推动深度学习的发展。

 3 

计算储存一体化 或成下一代系统入口

“虽然目前阶段计算力还谈不上限制人工智能的发展,但计算力确实提高了参与人工智能研究的门槛。”谭茗洲指出。

除了研发资金的增长,在计算力爆发之前的很长一段时间,产生数据的场景随着互联网的发展渗透到生活、生产的各个角落,并且随着通讯技术的进步,尤其是5G的商用,使得产生数据的基础场景覆盖面和深度达到新的层次,数据的生产也将达到一个新的数量级。

2020年伊始,阿里达摩院发布《2020十大科技趋势》报告显示,在人工智能方面,计算存储一体化,类似于人脑,将数据存储单元和计算单元融为一体,能显著减少数据搬运,极大提高计算并行度和能效。

然而,计算存储一体化的研究无法一蹴而就。

这个报告提出策略,对于广义上计算存储一体化计算架构的发展,近期策略的关键在于通过芯片设计、集成、封装技术拉近存储单元与计算单元的距离,增加带宽,降低数据搬运的代价,缓解由于数据搬运产生的瓶颈;中期规划是通过架构方面的创新,设存储器于计算单元中或者置计算单元于存储模块内,可以实现计算和存储你中有我,我中有你;远期展望是通过器件层面的创新,实现器件既是存储单元也是计算单元,不分彼此,融为一体,成为真正的计算存储一体化。近年来,一些新型非易失存储器,如阻变内存,显示了一定的计算存储融合的潜力。

据介绍,计算存储一体化正在助力、推动算法升级,成为下一代AI系统的入口。存内计算提供的大规模更高效的算力,使得AI算法设计有更充分的想象力,不再受到算力约束。从而将硬件上的先进性,升级为系统、算法的领先优势,最终加速孵化新业务。

而除了计算存储一体化的趋势,量子计算或是解决AI所需巨额算力的另一途径。目前量子计算机的发展已经超越传统计算机的摩尔定律,以传统计算机的计算能力为基本参考,量子计算机的算力正迅速发展。

谭茗洲表示,未来人工智能的突破,除了不断提升技术本身之外,还需要全球各国协同创新,融合发展,探索新的合作模式,如采取共享思维,调动世界各方面的计算资源集中发力,以降低计算的巨大成本。

延伸阅读:人工智能计算力展现五大发展趋势

互联网数据中心(IDC)与浪潮联合发布的《2019—2020中国人工智能计算力发展评估报告》指出,全球新创建的数据量将从2018年的33ZB增长到2025年的175ZB。随着数据持续爆炸性增长及算法的不断演进,未来算力仍有很大的发展空间。

该报告公布的最新中国人工智能计算力城市排名显示:排在前5位的城市依次为北京、杭州、深圳、上海、广州;排名6—10位的城市是合肥、苏州、重庆、南京、西安。

报告还提出了未来人工智能计算力发展的5个重要趋势,一是到2022年,人工智能推理市场占比将超过训练市场;二是预计到2023年,中国人工智能基础架构市场未来5年复合增长率将达到33.8%,是中国整体基础架构市场增速的3倍以上;三是5G和物联网将推动边缘、端侧人工智能基础架构的快速发展;四是人工智能与云的融合将进一步加速,未来5年AIaaS(人工智能基础设施即服务)市场规模的年复合增长率预计达到66%;五是随着计算力的提升,越来越多的企业将参与到人工智能开源软件的研发和行业性能评测基准的建设中。

RECOMMEND

             

  AI社群  

AI感兴趣的小伙伴,

网易智能12个不同垂直领域社群等你加入
添加智能菌微信:kaiwu_club

和我们一起探讨AI的故事~

你有没有“在看”鸭?

想像人类一样聪明?AI先得突破算力极限相关推荐

  1. DeepMind哈萨比斯对话哈里王子:2018年AI最大的突破在生物或化学 2017-12-29 新智元 新智元报道 编辑:刘小芹 胡祥杰 【新智元导读】BBC 电台第四台连续第14年在

    DeepMind哈萨比斯对话哈里王子:2018年AI最大的突破在生物或化学 2017-12-29新智元 新智元报道 编辑:刘小芹  胡祥杰 [新智元导读]BBC 电台第四台连续第14年在圣诞和新年之间 ...

  2. DeepMind哈萨比斯对话哈里王子:2018年AI最大的突破在生物或化学

    视频:DeepMind 哈萨比斯和哈里王子谈 AI 及DeepMind的未来 DeepMind的使命:解决智能问题,然后用人工智能来解决其他问题 哈里: 如果我是对的,DeepMind的使命就是解决智 ...

  3. AI算法不断突破 人工智能驱动创新需找对方向

    https://www.toutiao.com/a6658047781480956429/ 近日,IBM 2019年Think大会上一场奇特的辩论赛展现在人们眼前,人类辩手在讲台上正进行着精彩陈述,一 ...

  4. Hinton:今年AI没有重大突破,但三件事值得关注

    原作 Steve LeVine Root 编译自 axios 量子位 出品 | 公众号 QbitAI 2017年,有哪些值得关注的AI事件? 过去的一年里,既有霍金和马斯克等齐声呼吁,一定要时刻警惕超 ...

  5. 从人机交互到人机协作,人类在抑制 AI 时代的焦虑时做的尝试

    大家好,我是为人造的智能操碎了心的智能禅师. 全文大约1800字.读完可能需要下面这首歌的时间 ? 下面内容,源自作者的一个线下分享. 为什么分享这个话题呢? 我做了好多年交互设计的工作,所以学习和工 ...

  6. 商业版ChatGPT单价骤减9成;支付宝启动“支付芯计划”;有专家认为,到 2035 年人类可能会与AI争夺控制权丨每日大事件...

    ‍ ‍数据智能产业创新服务媒体 --聚焦数智 · 改变商业 企业动态 支付宝启动"支付芯计划" 3月2日,阿里巴巴平头哥对外公布了生态计划:面向芯片开放社区的15万名开发者,平头哥 ...

  7. 中国AI研究新突破,周六见!

    智源悟道1.0 大规模预训练模型项目,本周六发布! 想知道我们将迎来哪些AI研究新突破? 想知道我们将回答哪些面向「通用人工智能」的新问题? 想知道智源「悟道」大规模预训练模型项目,取得了哪些崭新进展 ...

  8. 百度AI全面开放EasyDL开启AI普及化时代;讯飞翻译机2.0发布:支持34种语言;华为开发能读懂人类情绪的AI技术

    百度AI全面开放EasyDL开启AI普及化时代,"小白"也能用AI 百度"燎原计划2018"暨百度AI开发者实战营第二季强势回归,首站北京即放送三大满足各类开发 ...

  9. 安利一个我喜欢的博主(鱼皮)的项目----鱼聪明AI

    大家好,我是鱼皮的粉丝.今天给大家介绍下他们公司的新朋友 -- 鱼聪明! 是不是看上去就像个大聪明哈哈,这其实是他们公司的吉祥物.当然啦,她以后会经常出现在他们的产品家族和周边中~ 比如他们最新上线的 ...

最新文章

  1. 二叉树的层序遍历 II
  2. C++ explicit关键字详解(转载)
  3. mysql 替换 多个逗号_如何使用mySQL replace()替换多个记录中的字符串?
  4. curl获取结果乱码的解决方法之CURLOPT_ENCODING(curl/Post请求)
  5. 在Exchange Server 2007中为出站邮件添加免责声明
  6. 对发表论文的深层次思考
  7. 第10课 古埃及金字塔 《小学生C++趣味编程》
  8. python3.6 try except,python中try except处理程序异常的三种常用方法
  9. android官方wifidemo,Android应用开发:连接指定Wifi的Demo分享
  10. Windows系统cmd常用命令详解
  11. AspectJ 在 Spring 中的使用
  12. Martin Fowler 经典软件著作合集
  13. 新版chrome移动端踩坑
  14. Windows驱动开发入门
  15. 在Eclipse中如何快速的计算代码量
  16. 手机号归属地区编码_关于手机号码的详细解析~
  17. c# mysql分页_c#-数据库分页查询
  18. c语言输入若干学生成绩 计算平均,从键盘输入若干名学生的成绩,当输入-1时结束,统计出及格人数...
  19. tig - 必知的git界面化工具
  20. 叠片过滤器安装维护注意事项

热门文章

  1. [App Store Connect帮助]一、 App Store Connect 使用入门(4)iOS 版 App Store Connect
  2. Hbase数据模型与存储结构
  3. 修改jupyter默认的浏览器
  4. opengl鼠标点击选取模型
  5. wifi密码 如何获取自己的WiFi密码
  6. 打赏抽成 30%,直播平台早有对策
  7. 台式计算机开机密码设置,台式电脑怎么设置开机密码
  8. Flutter 加载图片方法
  9. 数据库中数据的基本查询方法
  10. 洛谷 P1063 [NOIP2006 提高组] 能量项链