趋动科技猎户座OrionX AI加速器资源池化软件——产品介绍
随着AI技术的快速发展，越来越多企业开始将AI技术应用到自身业务之中。因此，对AI算力的需求在近几年迅猛增长。其中，云端AI算力自2012年到现在增长了超过三十万倍，在可预见的将来依然会保持这个增速。目前，云端AI算力主要由三类AI加速器来提供：GPU，FPGA和AI ASIC芯片。这些加速器的优点是性能非常高，缺点是价格也非常高。今天由于缺乏高效经济的AI加速器虚拟化解决方案，绝大部分企业因无法构建高效的加速器资源池，而不得不独占式地使用这些昂贵的加速器资源，导致资源利用率低，成本高。例如，根据AWS在re:Invent 2018上提到的数据，AWS上GPU利用率只有10%～30%。
趋动科技发布的猎户座AI计算平台，通过创新的虚拟化技术，帮助客户构建数据中心级AI加速器资源池，使用户应用无需修改就能透明地共享和使用数据中心内任何服务器之上的AI加速器，不但能够帮助用户提高资源利用率，而且可以极大便利用户应用的部署。以GPU为例，猎户座AI计算平台支持如下四大场景：
- “化整为零”
猎户座AI计算平台支持将一块物理GPU细粒度切分成多块虚拟GPU，然后分配给多个虚拟机或者容器。每一块虚拟GPU的显存和算力都能被独立设置和限制。通过这个功能，用户可以高效地共享GPU资源，从而提高资源利用率，降低成本。
- “化零为整”
猎户座AI计算平台支持将多台服务器上的GPU提供给一个虚拟机或者容器使用，而该虚拟机或者容器内的AI应用无需修改代码。通过这个功能，用户可以将多台服务器的GPU资源聚合后提供给单一虚拟机或者容器使用，为用户的AI应用提供数据中心级的海量算力。
- “隔空取物”
猎户座AI计算平台支持将虚拟机或者容器运行在一台没有物理GPU的服务器上，透明地使用另一台服务器上的GPU资源，该虚拟机或者容器内的AI应用无需修改代码。通过这个功能，猎户座AI计算平台帮助用户实现了数据中心级的GPU资源池，用户的应用可以无障碍地部署到数据中心内的任意服务器之上，并且能够透明地使用任何服务器之上的GPU资源。
- “随需应变”
猎户座AI计算平台支持用户在虚拟机或者容器的生命周期内，动态分配和释放所需要的GPU资源。通过这个功能，猎户座AI计算平台帮助用户实现了真正的GPU资源动态伸缩，极大提升了GPU资源调度的灵活度。
通过猎户座 AI 计算平台构建数据中心级 GPU 资源池的典型系统结构如下图所示
数据中心中有部分服务器没有 GPU，有部分服务器有 GPU。通过部署猎户座AI 计算平台，所有 GPU 服务器上的 GPU 资源均能被池化，变成可以灵活切分的具有不同显存、计算能力的虚拟 GPU。这些虚拟 GPU 可以被动态挂载到不同的环境中，例如挂载到 KVM 虚拟机中，挂载到容器中，或者直接挂载到裸金属服务器中。
经过 GPU 资源池化后，整个数据中心所有服务器上的 GPU 应用都可以如同使用本地 GPU 那样使用虚拟 GPU。打破了单台服务器 CPU、GPU 的硬件配比关系，使得数据中心的运维可以根据不同的应用负载需求，根据不同用户配额需求，动态灵活配置 GPU 资源，从而为更多的应用提供 GPU 资源，提高数据中心 GPU的利用率。
目前猎户座 AI 计算平台支持的 GPU 型号及功能如下表：
我们对猎户座 AI 计算平台进行了性能评测，测试环境如下：
性能评测结果如下：
- “Native GPU”为将测试用例运行在物理 GPU 之上，不使用虚拟机或者容器的性能；
- “Orion Local Container”为将测试用例运行在安装了猎户座 AI 计算平台软件的容器之中，使用本 机 GPU 的性能；
- “Orion Local KVM”为将测试用例运行在安装了猎户座 AI 计算平台软件的 KVM 虚拟机之中，使用 本机 GPU 的性能；
- “Orion Remote – 25G RDMA”为将测试用例运行在一台没有 GPU 的物理机之上，通过 25G RDMA 网卡使用远程 GPU的性能。
联系我们：
加入我们：HR@virtaitech.com
商务合作：BD@virtaitech.com
问题反馈：feedback@virtaitech.com
趋动科技猎户座OrionX AI加速器资源池化软件——产品介绍相关推荐
- 融资 6 亿元后，端点科技将致力于类SaaS化软件服务
据艾瑞咨询最新发布<2021 中国企业级 SaaS 行业研究报告>显示,在疫情催化下,2020 年 SaaS 市场增速飞快,市场规模达538亿元,同比增长48.7%. 随着数字化转型步伐加 ...
- 秒云与趋动科技联合发布容器云平台与GPU资源池化整体解决方案
近日,秒云联合趋动科技,共同发布基于容器云平台与GPU资源池化整体解决方案,并完成秒云容器云平台与趋动科技OrionX AI算力资源池化解决方案的兼容认证测试,测试结果表明双方产品完全兼容,各项功能运 ...
- 让客户实现 AI 算力“自由”，博云与趋动科技完成算力调度容器化验证
背景 近年来,国家对算力的重视程度不断提升.在算力基础设施方面,先后发布<全国数据中心应用发展指引>.<关于加快构建全国一体化大数据中心协同创新体系的指导意见>等:在算力服务方 ...
- 焱融科技与趋动科技携手解决一站式存算难
当前,数字经济正处于高速发展阶段,人工智能作为数字经济的技术引擎之一,在赋能数字经济的同时,也推动了整个计算产业往"智慧计算"方向演进,使得巨量模型和海量数据对算力和存储的需求呈指 ...
- 打破AI算力成本困局 趋动科技即将重磅发布全球首个AI算力池化云服务
10月23-25日,由湖南湘江新区管委会指导,长沙工业与信息化局.长沙信息产业园管委会.CSDN联合主办的"2022 长沙·中国1024 程序员节"即将在线上隆重开启.本届大会聚焦 ...
- ni软件可以卸载吗_黑科技 | 2020全新AI人工智能修图汉化版软件！这下可以放心卸载PS啦！...
在设计制作过程中 经常会遇到一些拍摄的好的图像要处理 基于每个人的水平技术能力不同 市面上很多修图软件孕育而生 这些软件多是自嗨P图玩玩还行 但难达到商业级的标准 部分大神级别的处理神器多是英文版的 ...
- 喜讯 | 标贝科技入选腾讯AI加速器三期，加速AI语音场景落地产业
2019年8月16日,腾讯产业加速器系列的AI加速器三期名单正式公布.标贝科技作为一家领先的人工智能语音合成及数据服务方案提供商企业,从1500名竞争者中脱颖而出,将参与到腾讯生态合作中,与腾讯共同助 ...
- 揭晓AI算力池化的五大场景
导读 Jim哥2007年加入VMware中国,经历了整个企业级市场从服务器虚拟化.私有云.公有云.容器云.混合云到云原生蓬勃发展的过程,也见证了从软件定义的计算存储.网络到软件定义一切的概念延伸.20 ...
- 百度吴甜宣布百度AI加速器第二期开营，要让创业者跑得更快
历经近4个月,从上千个项目中脱颖而出的百度AI加速器首批"AI新星"顺利结业.3月23日,百度AI加速器DEMO DAY在北京举行,来自金融.农业.零售.医疗.互联网等多个行业的1 ...
最新文章
- vue.js与ajax删除,javascript - VueJs和VueResource，从Ajax请求中删除标头字段 - 堆栈内存溢出...
- MyEclipse优化---编程时更流畅
- matlab为曲线下面积上色
- php json_decode 后，数字对象转换成了 科学计数法 的解决方案
- DICOM医学图像处理：开源库mDCM与DCMTK的比较分析（一），JPEG无损压缩DCM图像（续）...
- 使用OpenLDAP作为身份验证源
- ASP.NET Core中的OWASP Top 10 十大风险-失效的访问控制与Session管理
- P3760-[TJOI2017]异或和【树状数组】
- shapefile导入oracle,shp2sdo.exe用法：shpfile导入OracleSpatial
- postgres主从配置
- mysql和oracle的索引类型
- 如何自动翻译字幕文件(机翻)
- 总线及单片机各种线 以及数据总线宽度
- GUI(Graphic User Interface) 图形用户界面
- opencv(二）图像像素提取及操作
- 今天Sapphire来短消息问我“一件有点隐私”的事情，：）
- 电脑设置鼠标光标颜色或大小时，点击之后窗口闪退
- 看着很滑稽，但现实又何尝不是这样呢？
- uniapp 小于1000 按原数字显示 超过1000 数字换算成10w+ 1.3k+ 显示
- 程序员CMD命令大全