人工智能系统（二）：技术栈

人工智能系统的目的

提供更加高效的编程语言、框架和工具。

更具表达能力和简洁的神经网络计算原语和编程语言
更直观的编辑、调试和实验工具
整个深度学习生命周期中的系统问题:模型压缩、推理、安全、隐私保护等
提供全面的学习系统:强化学习、自动机器学习等

提供更强大和可扩展的计算能力。

自动编译优化算法
自动推导计算图
根据不同体系结构自动并行化
自动分布式化，并扩展到多个计算节点
持续优化模型效果
探索并解决新挑战下的系统设计、实现和演化的问题。

人工智能系统基本组成部分

体验：拥有端到端的人工智能用户体验-模型、算法、Pipeline、实验、工具、生命周期管理
框架：包括编程接口、计算图、自动梯度计算、IR（中间表示）、编译器基础设施
运行时：包括深度学习运行时-优化器、规划器、执行器
架构（单节点和云）：包含硬件API（GPU、CPU、FPGA、ASIC）、资源管理/调度器、可扩展的网络堆栈（RDMA、IB、NVLink）

人工智能系统生态

首先是核心系统软硬件，其主要包含：

深度学习任务运行和优化环境
通用资源管理和调度系统
新型硬件及相关高性能网络和计算栈

在此之上，我们有深度学习算法和框架，其主要包含：

广泛用途的高效新型通用AI算法
多种深度学习框架的支持与进化
深度神经网络编译架构及优化

最后是，更广泛的Al系统生态，主要有：

机器学习新模式(RL)
自动机器学习(AutoML)
安全与隐私
模型推导、压缩与优化

因此，如果我们要系统的解决问题意味着需要全面深入的了解整个问题空间，因为任何维度的短板都可能会影响整个系统。

一个典型的AI系统平台样例

以OpenPAI为例，下面展示了一个典型的人工智能平台所包含的基本功能，具体如下：

提供接口和工具供用户提交训练任务
提供文件管理系统管理训练所需的大数据
提供运行环境供深度学习框架访问
计算资源：GPU/FPGA/ASIC/TPU/CPU
网络资源：IB/RDMA
存储资源：HDFS/NFS/Ceph
高效的调度算法
分配异构计算资源
错误恢复和容错管理
日志、性能监控系统
用户、安全管理

你好，我叫果冻，创作不易，如果觉得我的博文能够帮助到你，期待你的点赞，祝好~~~

人工智能系统（二）：技术栈相关推荐

人工智能系统的技术架构
一.架构图 1.基础层包括: 硬件设施.软件设施.数据资源.其中在硬件设施方面,做深度学习和神经网络训练时候往往会涉及到模型训练是在CPU还是GPU上面,在这个里面GPU就是做计算加速的,第二个是智能 ...
计算机网络原理与实践ppt,从理论到实战,微软人工智能系统课程分享(附PPT)
今天分享一门来自微软的最新课程,中文名称为人工智能系统,主要讲解支持人工智能的计算机系统设计,对应的英文课程名称为System for AI. 近年来人工智能特别是深度学习技术得到了飞速发展,这背后离 ...
IBM林咏华：AI王牌炼成记——访IBM全球杰出工程师、人工智能系统技术总监、IBM中国研究院林咏华
自2016年谷歌的阿尔法狗(AlphaGo)让世界围棋冠军李世石认输的那一刻起,人工智能便再一次成为社会各界关注的焦点.2017年,人工智能更是迅速升温,成为政府.产业界.科研机构以及消费市场竞相追逐 ...
工业人工智能系统框架、关键技术、典型应用与发展趋势
来源:原文刊载于<机床与液压>2022年5月作者:唐露新张儒锋姜德志林建文周书兴近年来,智能制造是很多工业发达国家积极推进和重点发展的领域,美国.欧洲和日本等都将目光转向人工 ...
用WEB技术栈开发NATIVE应用（二）：WEEX 前端SDK原理详解
摘要: WEEX依旧采取传统的web开发技术栈进行开发,同时app在终端的运行体验不输native app.其同时解决了开发效率.发版速度以及用户体验三个核心问题.那么WEEX是如何实现的?目前WEE ...
Lison《vue技术栈开发实战》（二）
Lison<vue技术栈开发实战>(二) 状态管理bus的使用父子组件通信 v-model语法糖使用bus通信状态管理Vuex(一) state和getter 辅助函数的使用模块中 ...
Python+大数据-Spark技术栈(二)SparkBaseCore
Python+大数据-Spark技术栈(二)SparkBase&Core 学习目标掌握SparkOnYarn搭建掌握RDD的基础创建及相关算子操作了解PySpark的架构及角色环境搭建 ...
SpringCloud学习笔记（二）：微服务概述、微服务和微服务架构、微服务优缺点、微服务技术栈有哪些、SpringCloud是什么...
从技术维度理解: 微服务化的核心就是将传统的一站式应用,根据业务拆分成一个一个的服务,彻底地去耦合,每一个微服务提供单个业务功能的服务,一个服务做一件事, 从技术角度看就是一种小而独立的处理过程,类 ...
Michael I. Jordan联合UC伯克利13位重量级学者：下一代人工智能系统的4大趋势和9大研究课题
Michael I. Jordan 简介: LDA作者,机器学习泰斗,美国科学院/工程院/艺术科学院三院院士,ACM/AAAI Fellow,认知科学最高奖Rumelhart Prize得主,美国人工 ...