深度学习服务器配置选购原则和建议？

深度学习是机器学习的分支，是一种以人工神经网络为架构，对数据进行表征学习的算法。深度学习在搜索技术，数据挖掘，机器学习，机器翻译，自然语言处理等多个领域都取得了卓越的成果，可见其重要性

熟悉深度学习的人都知道，深度学习是需要训练的，所谓的训练就是在成千上万个变量中寻找最佳值的计算。这需要通过不断的尝试识别，而最终获得的数值并非是人工确定的数字，而是一种常态的公式。通过这种像素级的学习，不断总结规律，计算机就可以实现像人一样思考。因而，更擅长并行计算和高带宽的GPU，则成了大家关注的重点。

很多人认为深度学习GPU服务器配置跟普通服务器有些不一样，就像很多人认为做设计的机器一定很贵一样。其实只要显卡或者CPU满足深度学习的应用程序就可以进行深度学习。由于现在CPU的核心数量和架构相对于深度学习来说效率会比GPU低很多，所以大部分深度学习的服务器都是通过高端显卡来运算的。

这里谈谈关于深度学习GPU服务器如何选择，深度学习服务器的一些选购原则和建议：

1、电源：品质有保障，功率要足够，有30~40%冗余

稳定、稳定、还是稳定。一个好的电源能够保证主机再长时间运行不宕机和重启。可以想象一下，计算过程中突然重启，那么又要重来，除了降低效率，还影响心情。有些电源低负载使用的时候可能不出问题，一旦高负载运行的时候就容易出问题。选择电源的时候一定要选择功率有冗余品质过硬，不要功率刚刚好超出一点。

2、显卡：目前主流RTX3090,最新RTX4090也将上市

显卡在深度学习中起到很重要的作用，也是预算的一大头。预算有限，可以选择RTX3080 /RTX3090/RTX4090(上月刚发布，本月12日上市)。预算充足，可以选择专业深度学习卡Titan RTX/Tesla V100 /A6000/A100/H100（处于断供中）等等。

3、CPU：两家独大，在这要讲的是PC级和服务器级别处理器的定位

Intel的处理器至强Xeon、酷睿Core、赛扬Celeron、奔腾Pentium和凌动Atom5个系列，而至强是用于服务器端，目前市场上最常见的是酷睿。当下是第三代Xeon Scalable系列处理器，分为Platinum白金、Gold金牌、 Silver 银牌。

AMD处理器分为锐龙Ryzen、锐龙Ryzen Pro、锐龙线程撕裂者Ryzen Threadripper、霄龙EPYC，其中霄龙是服务器端的CPU，最常见的是锐龙。当下是第三代 EPYC（霄龙）处理器，AMD 第三代 EPYC 7003 系列最高 64核。

选择单路还是双路也是看软件，纯粹的使用GPU运算，其实CPU没有多大负载。考虑到更多的用途，当然CPU不能太差。主流的高性能多核多线程CPU即可。

4、内存：单根16G/32G/64G 可选，服务器级别内存有ECC功能，PC级内存没有，非常重要

内存32G起步，内存都是可以扩展的，所以够用就好，不够以后可以再加，买多了是浪费。

5、硬盘：固态硬盘和机械硬盘，通常系统盘追求速度用固态硬盘，数据盘强调存储量用机械盘

固态选择大品牌企业级，Nvme或者SATA协议区别不大，杂牌固态就不要考虑了，用着用着突然掉盘就不好了。

6、机箱平台：服务器级别建议选择超微主板平台，稳定性、可靠性是第一要求

预留足够的空间方便升级，比如现在使用单显卡，未来可能要加显卡等等；结构要合理，合理的空间更利于空气流动。最好是加几个散热效果好的机箱风扇辅助散热。温度也是导致不稳定的一个因素。

7、软硬件支持/解决方案：要有

应用方向：深度学习、量化计算、分子动力学、生物信息学、雷达信号处理、地震数据处理、光学自适应、转码解码、医学成像、图像处理、密码破解、数值分析、计算流体力学、计算机辅助设计等多个科研领域。

软件： Caffe, TensorFlow, Abinit, Amber, Gromacs, Lammps, NAMD, VMD, Materials Studio, Wien2K, Gaussian, Vasp, CFX, OpenFOAM, Abaqus, Ansys, LS-DYNA, Maple, Matlab, Blast, FFTW, Nastran等软件的安装、调试、优化、培训、维护等技术支持和服务。

深度学习服务器配置选购原则和建议？相关推荐

2023年深度学习服务器配置选购建议
1.首先确定是放机房机柜,还是放办公室用? 机柜选机架式,办公室选塔式(大家也喜欢说工作站)塔式比较安静,如果用GPU运算受卡数限制,4卡以内可以,液冷更静音. 2.看做什么用途,用CPU计算,还是G ...
深度学习服务器配置过程
1.安装系统 1.1 系统配置: 显卡:Tesla P100: 系统:Ubuntu16.04-desktop(英文版) 软件:cuda+cudnn+docker+nvidia-docker 1.2 换 ...
深度学习网络设计原则
深度学习网络设计原则输出特征图的大小逐渐减小在网络较深层应该利用更多的feature map Bottleneck layer的设计同时增加网络的深度和宽度翻译及理解自论文Rethinki ...
机器学习和深度学习服务器配置建议
云服务器配置方案一: 模块型号 GPU 4 x Nvidia Tesla V100 GPU内存 32GB vCPU(核) 40 处理器 2.2 GHz主频的Intel Xeon E5-2650 v ...
深度学习GPU选购指南：哪款显卡配得上我的炼丹炉？
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达作者丨Joey David 来源丨新智元编辑丨极市平台导读最近 ...
深度学习GPU选购指南
[导读]最近,曾拿到斯坦福.UCL.CMU.NYU博士offer.目前在华盛顿大学读博的知名测评博主Tim Dettmers在自己的网站又上线了深度学习领域的GPU深度测评,到底谁才是性能和性价比之王 ...
ubuntu14.04.5 + 1080ti + CUDA8.0 深度学习服务器配置折腾手记
本人末流211自动化系菜鸡小博一枚,因组内是研究机器学习的,所以一直想整台服务器提升工作效率.本系不是主干专业,比较穷,系里并不想给配一台深度学习服务器.但经过本人不断的找系主任,导师哭诉,最终还是申 ...
【深度学习】深度学习GPU选购指南：哪款显卡配得上我的炼丹炉？
新智元报道编辑:Joey David [新智元导读]最近,曾拿到斯坦福.UCL.CMU.NYU博士offer.目前在华盛顿大学读博的知名测评博主Tim Dettmers在自己的网站又上线了深 ...
深度学习、机器学习毕业设计 - 选题建议
文章目录 1 选题建议 2 开题指导 1.1 起因 1.2 如何避坑(重中之重) 1.3 为什么这么说呢? 1.4 难度把控 1.5 题目名称 1.6 最后 3 最后 1 选题建议以下为学长手动整理 ...

深度学习服务器配置选购原则和建议？

深度学习服务器配置选购原则和建议？相关推荐

最新文章

热门文章