运维是一个融合多学科(网络、系统、开发、安全、应用架构、存储等)的综合性技术岗位。从最初的网络管理(网管)发展到现在的系统运维工程师、网络运维工程师、安全运维工程师、运维开发工程师等,可以看出,运维的分工一直在细化,并且对综合技能要求越来越高。未来运维的发展趋势是高、精、尖。高表示高度,精表示精通,尖表示尖端,也就是运维职场一定要站在一定的技术高度,在多个技术领域中,要精通某项技能,同时对尖端前沿技术一定要能掌控趋势。

一 运维职位的发展和趋势

根据不同的运维领域和技术面以及分工流程三个方面来了解下2019年运维职位的发展趋势。

1.按领域来划分

1)基础设施运维:IDC/网络运维、服务器/存储设备运维

2)系统运维:系统中间件运维、云计算平台运维

3)数据运维:数据库运维、大数据技术平台运维

4)应用运维:应用软件系统

5)云平台运维:公有云平台运维

6)容器运维:基于容器服务的运维

2.按技术切面来分

1)安全运维

2)性能运维

3)数据运维

4)集成运维

3.按流程来划分

1)构建/持续集成、发布

2)安装部署、升级、迁移、合并、扩展

3)配置、初始化、配置变更

4)备份、传输、恢复

5)日志、监控、预警

6)诊断排查、优化

二 系统运维技能图谱

系统运维是运维的基础,新的一年中,对基础运维技能要求也在提高,打好系统运维基础,才能深入学习后面的各种运维技能。

下图列出了系统运维要掌握的必备技能:

三 web运维技能图谱

web运维是运维岗位中岗位最多的一个,薪资也相对较高,但需要掌握的知识点也比较多,新的技能要掌握,老的运维技能也不能丢。

下图列出了web运维要掌握的各种必备技能。

四 大数据运维技能图谱

大数据从2017年开始逐渐走到生活的各个角落,2018年在逐渐落地,而在2019年,大数据依然火热。

加上国家对大数据产业的扶持,大数据产业在新的一年岗位需求一定会更加大,因此掌握大数据运维技能,就走在了运维的前沿。

下图列出了大数据运维要掌握的各种必备技能。

五 容器运维技能图谱

容器的产生,是一次IT行业的革命,2015 年到 2016 年,是业界普遍认为的容器技术爆发的一年,短短一年多时间里,容器技术在中国大陆完成了从零星概念到烽火燎原的壮举。

时至今日,容器技术在国内大多数企业中落地已成为一种共识,而国内的生态系统,也呈现出了企业产品、开源社区和公有云齐头并进的良好局面。

因此,2019年也是容器继续快速落地的一年,下图列出了大数据运维要掌握的各种必备技能。

六 数据为王的时代

万丈高楼平地起,高楼稳不稳取决于地基是否扎实。运维数据便是运维管理这座高楼的地基。运维数据大致分为CMDB、日志、生产DB、知识库四个方面。

对数据的维护和管理至关重要,特别是日志数据,对运维来说,通过日志可以比较准确全面地知道系统或是设备的运行情况,可以返查问题产生的原因,还原问题发生的整个过程。

通过日志也可以提前预测系统可能要发生的问题或是故障,如系统安全日志,如果网络攻 击会在系统安全日志中有一定的体现。

七 日志数据处理 

这么多的日志,运维要通过各种手段完成日志的收集、过滤分析、可视化展示,那么如何实现这些功能呢?

方法很多,例如ELK集成套件(Elasticsearch , Logstash, Kibana)就可以轻松实现日志数据的实时收集、分析传输以及图形化展示。

那么要如何使用ELK呢,根据日志量的不同,对应的ELK架构也不尽相同,看下面几个常见架构:

八 ELK架构1

此架构主要是将Logstash部署在各个节点上搜集相关日志、数据,并经过分析、过滤后发送给远端服务器上的Elasticsearch进行存储。

Elasticsearch再将数据以分片的形式压缩存储,并提供多种API供用户查询、操作。用户可以通过Kibana Web直观的对日志进行查询,并根据需求生成数据报表。

此架构的优点是搭建简单,易于上手。缺点是Logstash消耗系统资源比较大,运行时占用CPU和内存资源较高。

另外,由于没有消息队列缓存,可能存在数据丢失的风险。此架构建议供初学者或数据量小的环境使用。

九 ELK架构2

由此衍生出来了第二种架构:

此架构主要特点是引入了消息队列机制,位于各个节点上的Logstash Agent(一级Logstash,主要用来传输数据)先将数据传递给消息队列(常见的有Kafka、Redis等)。

接着,Logstash server(二级Logstash,主要用来拉取消息队列数据,过滤并分析数据)将格式化的数据传递给Elasticsearch进行存储。

最后,由Kibana将日志和数据呈现给用户。由于引入了Kafka(或者Redis)缓存机制,即使远端Logstash server因故障停止运行,数据也不会丢失,因为数据已经被存储下来了。

这种架构适合于较大集群、数据量一般的应用环境,但由于二级Logstash要分析处理大量数据,同时Elasticsearch也要存储和索引大量数据,因此它们的负荷会比较重,解决的方法是将它们配置为集群模式,以分担负载。

此架构的优点在于引入了消息队列机制,均衡了网络传输,从而降低了网络闭塞尤其是丢失数据的可能性,但依然存在Logstash占用系统资源过多的问题,在海量数据应用场景下,可能会出现性能瓶颈。

十  ELK架构3

最后,还有第三种架构:

这个架构是在上面第二个架构基础上改进而来的,主要是将前端收集数据的Logstash Agent换成了filebeat,消息队列使用了kafka集群,然后将Logstash和Elasticsearch都通过集群模式进行构建。

此架构适合大型集群、海量数据的业务场景,它通过将前端Logstash Agent替换成filebeat,有效降低了收集日志对业务系统资源的消耗。

同时,消息队列使用kafka集群架构,有效保障了收集数据的安全性和稳定性,而后端Logstash和Elasticsearch均采用集群模式搭建,从整体上提高了ELK系统的高效性、扩展性和吞吐量。

十一 用大数据思维做运维监控

大数据分析最早就来源于运维人的日志分析,到逐渐发展对各种业务的分析,人们发现这些数据蕴涵着非常大的价值。

那么如何用大数据思维做运维呢,大数据架构上的一个思维就是:提供一个平台让运维方便解决这些问题, 而不是,让大数据平台去解决出现的问题。

基本的一个大数据运维架构是这样的:

对于运维的监控,利用大数据思维,需要分三步走:

获取需要的数据过滤出异常数据并设置告警阀值通过第三方监控平台进行告警

所有系统最可靠的就是日志输出,系统是不是正常,发生了什么情况,我们以前是出了问题去查日志,或者自己写个脚本定时去分析。现在这些事情都可以整合到一个已有的平台上,我们唯一要做的就是定义分析日志的的逻辑。

好啦,这就是今天要给大家介绍的2019核心运维技能啦,抓住时机,开始全新学习吧!2019,你的全新开始!!!

(来源:今日头条)

资料免费送(点击链接下载)

史上最全,数据中心机房标准及规范汇总(下载)

数据中心运维管理 | 资料汇总(2017.7.2版本)

加入运维管理VIP群(点击链接查看)

《数据中心运维管理》VIP技术交流群会员招募说明

扫描以下二维码加入学习群

2019运维技能风向标相关推荐

  1. 2019年最新最全运维技能图谱

    作者:南非蚂蚁 来源:https://blog.51cto.com/ixdba 运维是一个融合多学科(网络.系统.开发.安全.应用架构.存储等)的综合性技术岗位,从最初的网络管理(网管)发展到现在的系 ...

  2. 2019年超新超全的大数据运维技能图谱

    运维是一个融合多学科(网络.系统.开发.安全.应用架构.存储等)的综合性技术岗位,从最初的网络管理(网管)发展到现在的系统运维工程师.网络运维工程师.安全运维工程师.运维开发工程师等,可以看出,运维的 ...

  3. 如何迅速掌握并提高linux运维技能

    之前曾经写过一篇如何学习Linux的文章,得到了很多反馈,大家都在分享自己的学习经验和体会,并且也提出了不少意见和建议.学习这个事情其实是说起来容易,做起来就很难,虽然给大家提高了很多学习linux的 ...

  4. 移动网络安全_新突破!青海移动在2020年中国移动网络安全运维技能竞赛大赛中荣获三等奖!...

     青海移动在2020年中国移动网络安全运维技能竞赛中荣获团体三等奖,这也是在历年网络安全竞赛活动中首次获得集团奖项. 为积极应对日益复杂严峻的网络安全形势,促进网络安全运维人员技能提升,更好适应5G. ...

  5. 运维(24)-运维技能知识图谱

    文章目录 01 引言 02 运维划分 03 运维技能图谱 01 引言 最近因工作需要,需要参与运维的工作,接下来需要做的就是快速补充运维的知识. 首先,需要知道的是,何为运维? 运维 本质上是对网络. ...

  6. ​Linux运维发展方向及运维技能

    一.Linux运维工作划分 1.按领域来划分 (1)基础设施运维:IDC/网络运维.服务器/存储设备运维 (2)系统运维:系统中间件运维.云计算运维 (3)数据运维:数据库运维.大数据运维 (4)应用 ...

  7. 运维技能定级标准第5篇——关于运维工程师岗位的规范运维、任务执行力和新技术研究与分享的技能级别设计

    运维工程师岗位工作技能的评定类别(7).(8).(9) 规范运维 级别0,没有规范运维观念和意识,什么规范都不懂,运维工作中存在大量的随意性操作. 级别1,有初步的规范运维观念和意识,对运维操作.工作 ...

  8. 运维技能定级标准第3篇——关于运维工程师岗位的运维监控与MySQL数据库技能级别设计

    运维工程师岗位工作技能的评定类别(3)和(4) 3.运维监控技术 级别0,什么都不懂 级别1,常见监控工具或软件系统的基本安装.配置.使用,照猫画虎会使用而已. 级别2,熟悉监控系统的基本原理和常用配 ...

  9. 运维技能定级标准第4篇——关于运维工程师岗位的自动化运维与运维开发技能级别设计

    运维工程师岗位工作技能的评定类别(5)和(6) 5.自动化运维技术 级别0,什么都不懂 级别1,了解ansible.saltstack.puppet等主流的自动化运维管理技术工具,掌握公司主要使用的一 ...

最新文章

  1. 逻辑回归为什么使用对数损失函数
  2. system var mysql_MySQL 系统变量(system variables)
  3. java匿名类对象的坏处_java匿名内部类的使用注意事项
  4. SocketFactory、DefaultSocketFactory、ServerSocketFactory、DefaultServerSocketFactory
  5. java画板代码_java 画板画图程序
  6. 浅谈闪电网络的可行性
  7. InfoWorld 2020 年公布最佳开源软件
  8. (2)python_enumerate
  9. 备件管理系统c语言,图书管理系统的设计与开发及体育用品库存管理系统设计.doc...
  10. 材料学和计算机哪个专业好,材料类专业包括哪些专业
  11. php pandoc,Pandoc 标记语言转化工具
  12. Android O新特性和行为变更总结zz
  13. 【论文笔记09】Differentially Private Hypothesis Transfer Learning 差分隐私迁移学习模型, ECMLPKDD 2018
  14. 基于PHP的精品课程教学网站
  15. 千锋教育+计算机四级网络-计算机网络学习-04
  16. 学习同学们的博客经验
  17. 数据分析师只适合男生吗,女生可不可以胜任?
  18. 基于Egret的OPPO小游戏接入
  19. 【c语言】在一个一维整数组中找出其中最大的数及其下标
  20. win7引导安装ubuntu无需U盘启动

热门文章

  1. kafka-0.10.2.1:Producer生产时无法自动创建Topic
  2. DASH直播平台的搭建
  3. Windows 平台下解决httpd.exe: syntax error on line 39
  4. winsever 2008 r2 管理员账号没有权限_钉钉管理员攻略—主管理员①
  5. CF788B Weird journey
  6. 《人脸识别原理及算法——动态人脸识别系统研究》—1章1.2节人脸识别相关学科的进展...
  7. DBA(三):MySQL主从同步、复制模式
  8. A new node couldn't be inserted because one with the same name exists. (VERR_CFGM_NODE_EXISTS)
  9. shell 中定义数组
  10. 阿里正式取消周报:打击低效加班,拒绝形式主义!