编辑部 整理自 MEET 2021 
量子位 报道 | 公众号 QbitAI

AI的发展,除了要有应用的落地、芯片等技术的支撑,还离不开一个非常重要的基础——AI算法的框架

然而在TensorFlow、PyTorch等框架,已然成为主流选择的当下,再去创造新的AI算法框架,是不是属于“重复造轮子”?

在MEET 2021智能未来大会中,华为计算开源开发与运营部副总监黄之鹏回答道:

AI框架的发展,已经到了一个类似于历史上汽车的出现替代马车的阶段。

也就是说,我们正处于20世纪初的那样一个变革年代。

黄之鹏认为,华为的MindSpore,便是这样一种“迈进汽车时代”的AI框架,并且还是AI开源新势力

为了完整展现黄之鹏对AI开源框架步入新时代的所思所想,在不改变原意的基础上,量子位对他的演讲内容进行了编辑整理。希望能够让你更加了解AI算法框架。

关于MEET 智能未来大会:MEET大会是由量子位主办的智能科技领域顶级商业峰会,致力于探讨前沿科技技术的落地与行业应用。本次大会现场有李开复等20余位行业顶级大咖分享,500余名行业观众参与,超过150万网友在线收看直播。包括新华社、搜狐科技、澎湃新闻、封面新闻等数十家主流媒体在内纷纷报道,线上总曝光量累计超过2000万。

要点

  • AI框架的发展,已经到了一个类似于历史上“汽车的出现替代马车”的阶段。

  • 现有的框架,已经达到了马车时代的一个顶峰。

  • 作为“汽车时代”的一个崭新时代的产品,MindSpore有超乎此前想象的效率和性能

  • MindSpore五大关键特性:自动并行、动静态图结合、二阶优化、全场景部署、全栈协同加速。

  • MindSpore的社区治理,是业界AI开源框架诞生以来,第一个采用开放治理模式的开源社区。

  • MindSpore作为一个新事物,还是需要众人拾柴,需要大家的多多关爱和关注

(以下为黄之鹏演讲分享全文)

为什么说AI框架已经到了“汽车替代马车”的阶段?

今年这一年以来,我们被问得最多的问题,就是华为为什么又要做一个框架?

我们给过各种各样技术上的具体回应、分析,但其实我觉得通过一个故事可以讲得更直观。

AI框架的发展,已经到了一个类似于历史上“汽车的出现替代马车”的阶段。也就是说我们正处于20世纪初的那样一个变革年代。

现有的框架,我们可以把它看作是已经达到了马车时代的一个顶峰

马车可以做到非常的舒适、精致,而且它可以做到足够的运行效率。

而且造一辆马车可能也有非常好的上下游的生态——马车的零部件,包括马夫的培育都会有一套很好的系统。

所以我们可以回想一下当19世纪末、20世纪初汽车刚刚诞生的时候,大家也都会有这种困惑,马车已经发展得很好了,为什么要换成汽车呢?

我们觉得以MindSpore为代表的新一代的框架体系、开源生态的出现,其实代表着一个非常重要的节点,就是我们全面开始迈进“汽车时代”。

可能它还没有“极致的马车”那么舒适,但是它有很强的操控感;尤其在昇腾环境上,运行感非常好。

而且,MindSpore还是一个工业化的产品,具有非常好的工业化能力,尤其是对大规模自动化并行的支持,这个应该是前所未有的。

作为“汽车时代”的一个崭新时代的产品,MindSpore有超乎此前想象的效率和性能,而且它意味着我们可以构筑一个全新的、非常硬核的科技生态。

MindSpore这类新框架体系的出现,意味着有更多的AI从业者、开发者,可以开始更加便捷和高效地进行AI开发。

MindSpore要解决AI框架所面临的挑战和趋势

除了上面说到的时代变迁的大背景,华为开发MindSpore最重要的是尝试解决很多具体的问题:

  • 如何处理超级大的模型或数据集?

  • AI算法工程师如何更高效、更简洁地开发?

  • 企业的安全问题,尤其是生产环境的鲁棒性如何保障?

  • 如何将优秀的AI硬件能力释放出来?

针对这些问题,华为开发了MindSpore这一新框架,并在今年3月28号全面开源

MindSpore本身处于“华为昇腾AI解决方案”的一环,就是AI框架中的一环。

MindSpore是有如下这些部件组成。

Mind Expression,就是MindSpore的前端,提供了足够简单、简洁,方便开发者开发的pythonic实现,这个前端也提供了端边云统一的API。

除了ME之外,MindSpore大量的优秀特质,其实体现在我们的编译层,给整个MindSpore提供了基于编译的优化,这使得它的运行性能会达到一个非常好的状态。

除此之外,也提供了很多工具,比如说数据处理,以及可视化的工具,也就是MindData、MindInsight等组建。

还提供了模型鲁棒性和对抗性检测的工具MindArmour,同时,也在逐步建设ModelZoo,逐渐丰富的模型。

MindSpore关键特性

在特性上来说,MindSpore主要有五个非常关键的特性:

一是自动并行

并行计算是所有深度学习框架都会涉及的内容,MindSpore提供的是一种非常好的自动并行的能力。

尤其运行在昇腾环境下,通过一条语句声明,声明在使用多少数量昇腾资源,只需要提供一条语序,MindSpore就会帮你完成分布式并行能力。

而现有的框架,大多需要数据工程师手动写分布式并行的策略——如何切分数据、如何切分模型、如何分布这些分片在哪些配置的节点上等。

这些工作是有很强的专业门槛,自动并行有效的降低了门槛,提高的大家开发的能力和效率。

二是动静态图结合

MindSpore的特点,就是一行代码完成动静态图的切换。动态图和静态图同时支持已经不是一个新话题,对于MindSpore来说,除了天然的支持动态图、静态图之外,在昇腾环境上,也同时支持一行代码完成动态图和静态图的切换。

这样的好处是方便数据开发者在测试环境和生产环境中切换与实现,用动态图调优,静态图实现生产环境的部署。

三是二阶优化

高阶优化实际上,一直是很多框架试图在做的一个东西,但不是所有框架可以做到性能增益非常好的二阶优化的方案。

以ResNet50@ImageNet2012为例,一阶方法需要90 epoch,二阶优化只需42 epoch ,可以实现20%训练效率提升。

四是全场景部署

全场景协同一直是MindSpore一个特别大的亮点。,可以智能匹配端、边、云多样设备。

五是全栈协同加速

MindSpore是一个业界第一批,面向系统软硬件co-design的一个框架,甚至可以做到整图的完整卸载,这个可以达到与通用GPU硬件对比的程度,实现一个非常好的提升。

MindSpore案例介绍

下面介绍几个具体的案例。

首先,是与鹏城实验室合作的E级AI集群计算系统。MindSpore可以支撑这种E级算力的大规模学术研究、应用创新。

另一个案例是与深圳湾实验室分子动力学团队的合作

最近有一个新闻非常火,就是AlphaFold2的极高打榜分数,它用到的技术是分子动力学领域和深度学习的结合。

深圳湾实验室是在做深度分子模型相关研究的时候,发现MindSpore是天然的适应他们的需求。

我们即将会有新的MindSpore原创的模型出来,进一步解决像分子动力学这种,需要大算力场景优化的问题。

除了客户的案例,华为也有自己大量的应用

在华为应用里面,大量地用到MindSpore,包括大家用华为手机,华为手机上面只要AI相关的应用,其实它的底层大多都是MindSpore Lite在支撑。

所有的MindSpore Lite代码,一直都全面开源在码云和GitHub上面,所见即所得,都是全面开源的。

同时,也与众多高校展开合作,做了很多的生态。

包括华为跟清华朱军老师的珠算项目团队,做深度概率编程的合作;和中科大李诚老师的团队,做的有关自动并行的合作等等,也是通过这种合作加速创新。

这些代码都是开源在代码仓中,在官网上也会持续更新。

MindSpore社区发展

MindSpore是今年3月底开源,也只是一个刚刚开源9个月的一个全新框架项目。

这9个月,MindSpore的社区还是得到了长足的发展,现在总计有超过12000个pull request在社区里面,这是一个非常惊人的数字。

我们的总下载量到年底有望达到10万。

MindSpore绝对不会是一个局限在中国的一个社区,从诞生之始就是一个立足于中国,但是面向全球开发者的全球性的开源社区。

社区治理方面,MindSpore应该是业界AI开源框架诞生以来,第一个采用开放治理模式的开源社区

在MindSpore社区,有来自全球14名技术专家组成的技术委员会,他们通过公开的讨论,公开的会议,把控整个社区的技术发展方向。

我们在技术委员会的指导之下,有特殊兴趣组(Special Interest Group),来负责各个模块的开发;当然也有需要跨模块协作的Working Group,比如说分子动力学我们成立了一个工作组。

因此,MindSpore都是以业界主流开源社区形成的规范的开源的方式去做。

我们也新设立了专家委员会、用户委员会,希望吸引各行各业,AI领域各个专项领域的专家,加入到我们的社区里面来。

MindSpore Study Group (MSG),是今年的另外一个工作,是面向区域、面向城市本地的开发者线下社团。

另外面向海外,我们今年也做了很多线上的活动,例如有在俄罗斯的活动,印尼在线的活动等等。

最后,MindSpore作为一个新事物,也还是需要众人拾柴,需要大家的多多关爱和关注。

谢谢大家!

(最后,如果想回看大会全程,请点击阅读原文)

—  —

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见~

华为计算黄之鹏:AI开源框架已经到“汽车替代马车”的阶段 | MEET2021相关推荐

  1. 2020,国产AI开源框架“亮剑”TensorFlow、PyTorch

    「AI技术生态论」 人物访谈栏目是CSDN发起的百万人学AI倡议下的重要组成部分.通过对AI生态专家.创业者.行业KOL的访谈,反映其对于行业的思考.未来趋势的判断.技术的实践,以及成长的经历. 20 ...

  2. 国产最大AI开源框架再升级:一口气发布9大新产品,顺便送出亿元GPU算力

    乾明 边策 发自 凹非寺  量子位 报道 | 公众号 QbitAI 时局如此,国产AI框架雄心更盛. 气势更足.功能更新力度更大.开发者羊毛更丰厚--而且新发布还不是全部,已获得的成绩也相当亮眼: 先 ...

  3. 2020,国产 AI 开源框架“剑指”TensorFlow、PyTorch

    「AI技术生态论」 人物访谈栏目是CSDN发起的百万人学AI倡议下的重要组成部分.通过对AI生态专家.创业者.行业KOL的访谈,反映其对于行业的思考.未来趋势的判断.技术的实践,以及成长的经历. 20 ...

  4. 中国下一代AI开源框架:国际、创新、实用和长期主义

    中国下一代AI开源框架:国际.创新.实用和长期主义 道翰天琼认知智能机器人平台API接口大脑为您揭秘.目前国内外的AI开源框架领域,以TensorFlow.PyTorch.MindSpore等为代表, ...

  5. CoBOT检测出AI开源框架TensorFlow中的缺陷

    建立在库博大数据安全分析平台之上的库博软件成分和安全分析工具可以对AI开源框架进行成分分析,根据框架中引用的组件,形成一个组件依赖的知识图谱.任何一个依赖的组件发现问题,能够根据知识图谱快速判断是否收 ...

  6. 华为于璠:新一代AI开源计算框架MindSpore的前世与今生 | AI ProCon 2019

    演讲嘉宾 | 于璠(华为MindSpore资深架构师) 编辑 | 刘静 出品 | AI科技大本营(ID:rgznai100) 9月,2019中国AI开发者大会(AI ProCon 2019)在北京举行 ...

  7. 腾讯AI开源框架Angel 3.0重磅发布:超50万行代码,支持3种算法,打造全栈机器学习平台...

    出品 | AI科技大本营(ID:rgznai100) [导语]2019年8月22日,腾讯首个AI开源项目Angel正式发布3.0版本.Angel 3.0尝试打造一个全栈的机器学习平台,功能特性涵盖了机 ...

  8. 自然语言模型算法太杂乱?国产统一 AI 开源框架来了

    2020-04-07 17:34:47 2019年8月,基于深度学习的语音和自然语言理解模型训练平台DELTA正式开源.一经开源,DELTA登上GitHub 热榜,获得 1k+的Star数,受到深度学 ...

  9. 自然语言模型算法太杂乱?国产统一 AI 开源框架来了!

    2019年8月,基于深度学习的语音和自然语言理解模型训练平台DELTA正式开源.一经开源,DELTA登上GitHub 热榜,获得 1k+的Star数,受到深度学习框架Keras的作者François ...

最新文章

  1. 青源 LIVE 第 28 期 | 北大燕博南:下一代AI芯片—存内计算的硬核与软着陆
  2. Android开发环境的搭建
  3. 阿里达摩院AI抗疫最新战报:已诊断3万多疑似病例CT影像,准确率96%
  4. ios nil、NULL和NSNull 的使用
  5. 简明docker教程 1
  6. java guice_java – Guice:如何为一个类型获得多个@Provides?
  7. java直线函数_java实现顺序结构线性列表的函数代码
  8. 快春运了,做个火车余票查询接口,余票来源12306,图是百度地图
  9. HDU2855 Fibonacci Check-up 矩阵的应用
  10. 利用.NET Core类库System.Reflection.DispatchProxy实现简易Aop
  11. mysql like n_MySQL LIKE 子句
  12. java如何代码找错误_如何编写可怕的Java代码?
  13. 管理感悟:不要告诉主管只有一条路
  14. manjaro设置字体_Manjaro安装,配置,美化指南
  15. 圆柱体积怎么算立方公式_圆柱体积怎么算立方 高为3米则此圆柱的体积为27
  16. 数据分析,怎么做才够“精准”
  17. Filco圣手二代双模蓝牙机械键盘|科大讯飞鼠标连接Mac方法
  18. Android相机对焦问题
  19. 三款ActiveX图表控件对比评测 Pro ActiveX、ProEssentials、ChartDirector
  20. react修改webpack配置,添加别名

热门文章

  1. 为什么链接库的顺序有时会导致GCC错误?
  2. SQL Server 2008中获取数据库所有表及其字段名称、类型、长度的SQL
  3. Gson解析JSON数据中动态未知字段key的方法
  4. cookie和session 创建和验证 原始的servlet
  5. 读取properties文件
  6. 数据库设计规范之对象设计使用规范
  7. ext-2.2.1下载地址
  8. DataTable、DataView、ListBox 数据绑定与查询
  9. 3 关于数据仓库维度数据处理的方法探究系列——缓慢变化维概述和原理
  10. python元类的概念_Python中的元类编程 | 学步园