数据工作者必备工作技能:数据治理
70多年来,伴随着信息革命和信息化的飞速发展,计算机数据量的急剧增长,数据利用和管理的重要性与日俱增,数据逐渐在信息化这个大舞台上扮演着越来越重要的角色。
01
从数据处理到数据治理
早期,数据处理(data processing)解决的是利用计算机技术对数据进行采集、存储、加工、转换和传输等的技术问题,目的在于将原始的、看似无序的和非结构化的数据,通过格式化的方法,使其转换为结构化的数据,并存储于计算机系统之中,以便于数据的高效检索、管理和利用。
其后,随着数据的不断增加和重要性的凸显,计算机中的数据管理(data management)和数据管治(data administration)成为焦点。
前者解决的是对于计算机数据的存储、检索、控制的管理,包括文件和数据库的接入、数据处理系统的管理等。
后者关注的则是一个组织机构的计算机系统中所存储的数据、信息作为组织机构的资源的管理,包括数据的分析、分类、维护、流动、应用等。
进入21世纪以来,基于互联网的企业信息系统(企业内部网和外部网)的发展,企业数据的管理和管治更为复杂,不仅包含了企业内部的各种产品设计、生产、管理数据,还包含了与企业外部运行环境和竞争环境相关的一切数据;数据不仅要支撑企业的运行和管理,更要为企业对环境的把握和决策服务。
在这样的背景下,企业数据治理(data governance)的概念,及其理论、方法和工具等应运而生,目的在于对企业所需数据的可获得性、相关性、可用性、整体性、安全性等,实现全面、有效的管理,将数据作为企业的战略资产加以重视和综合利用,为实现企业长期的发展战略和增长目标服务。
02
数据治理的核心内容
完整的数据治理包括战略、组织、制度、流程、绩效、标准、工具,以及数据价值、数据共享、数据变现等许多方面。
1.战略
数据治理的首要任务是制定数据治理战略目标,否则缺乏目标和行动纲领,数据治理难以开展。企业的信息化是为了服务于业务,因此,企业的信息化战略必须匹配业务战略。
数据战略是信息化战略的重要组成部分,企业要清晰地定义企业数据治理的使命、愿景,中长期目标及行动计划,用以指导企业数据治理。
企业数据战略一般根据IT战略的制定而制定,随着IT战略的修订而修订,由企业的信息化负责人及业务负责人共同主导制定。
2.组织
建立合适的数据治理组织是企业数据治理的关键。
数据治理的组织建设一般包括组织架构设计、部门职责、人员编制、岗位职责及能力要求、绩效管理等内容。
3.制度
企业的数据治理必须要有相关制度,否则无法可依,再好的技术工具也没有用。因此,建立完善的数据治理制度很重要。
企业的数据治理制度通常根据企业的IT制度的总体框架和指导原则制定,往往包含数据质量管理、数据标准管理、数据安全管理、数据绩效管理等制度,以及元数据管理、主数据管理、交易数据管理、数据指标管理等办法及若干指导手册。
4.流程
制定数据治理的流程框架及流程也是数据治理的重要工作。
数据治理流程主要包括从数据的生产、存储、处理、使用、共享、销毁全生命周期过程中所遵循的活动步骤,以及元数据管理、主数据管理、数据指标管理等流程。
5.绩效
要使数据治理的体系运转好,必须要有好的激励体系。
数据绩效管理包括数据管理指标、数据认责机制、数据考核标准、数据管理的奖惩机制,以及绩效管理过程的一系列活动集合。
6.标准
数据标准是实现数据标准化、规范化的前提,是保证数据质量的必要条件。
数据标准一般分为元数据标准、主数据标准、交易数据标准、数据指标标准、数据分类标准、数据编码标准、数据集成标准等内容。
数据标准管理是规范数据标准的内容、程序和方法的活动,分为标准制定、标准实施和控制、标准修订等。
7.工具
数据治理管理工具包括数据架构工具、元数据管理工具、数据指标管理工具、主数据管理工具、时序数据管理工具、数据交换与服务工具、质量管理工具和安全管理工具等。
03
国内数据治理现状
由此可以看出,数据治理知识体系涉及管理、技术等多个学科领域,是一个非常复杂的系统工程,如何全面而系统地构建较为完整的数据治理体系,是企业实施数据治理的关键课题。
根据国际数据公司(IDC)2018年年末的测算,2025年,中国将成为全球五个分区中,最大的数据资源拥有地区(占比为28%,数据总量为49ZB),其数据总量将是美国(排名第四,占比为18%)的1.56倍。
这五个分区是:1)中国;2)欧洲、中东、非洲地区(EMEA);3)亚太国家,指除中国之外的、包括日本在内的亚太地区所有国家(APJxC);4)美国;5)世界其他地区。
实际上,2019年,中国的数据总量已经超过了美国。
但是,中国工业企业的数据资源存量普遍不大,宝贵的数据资源由于缺乏科学的数据管理而随意流失;工业企业数据总量低下,与企业规模极不相称;半数以上的工业企业仍在使用纸质或更原始的方式进行数据的存储和管理;数据孤岛几乎是所有工业企业都面临的困境。
此外,无论是数据管理还是数据治理,中国工业企业的状况也不容乐观。调查显示,仅有37.84%的大型工业企业、46.67%的中型工业企业、13.64%的小型工业企业开展了数据管理工作;大多数工业企业缺乏专门的数据管理部门,投入数据管理的人、财资源也非常有限,更谈不上顶层规划和战略管理。
凡此种种都说明,中国工业企业在数据管理和数据治理方面亟待迎头赶上。否则,中国制造业的转型升级将无从谈起。
04
数据治理解决之道
《数据治理:工业企业数字化转型之道》一书的出版,无论是对推动中国企业的数据管理和利用水平的提高,还是对推动工业大数据的应用发展,无疑都是一件非常有意义的大事。
1. 内容全备
本书既介绍了工业企业数据治理的概念和内涵、标准和框架(特别是主流数据治理的标准及框架);也从系统工程的角度,介绍了工业企业数据治理体系的各个关键环节,以及现有的、可获得的各种数据治理工具;而且,书中所给出的大量中国工业企业数据治理的实践和经验,非常具有启发性、实践性和可操作性。
2. 权威作者
本书的编著者之一工作于中国工业大数据领域唯一的国家级工程技术研究平台,对于工业大数据的应用技术、工业大数据的管理和治理,有着长期、深入的研究和丰富的实践经验。
因此,本书对于工业数据治理体系的顶层设计提出的一系列推进中国大数据应用和治理的建议,特别具有创新性和指导性,值得中国工业界相关领域的同行认真研究和讨论。
3. 国际性理论高度与丰富一线案例兼具
本书不仅融合了国内外数据治理的权威理论和技术体系,还涵盖了工业企业数字化转型过程中所需要的数据治理技术架构、实施路径和参考案例,满足了读者理解工业大数据治理框架的需要,可以有效指导工业企业全方位开展高质量的数据治理。
4. 专家力荐
▼
本书不仅是工业企业数字化转型的决策者、实施者和研究者难得的参考书,也是企业培训、员工培养的优选图书,还适合作为高校的MBA、EMBA教材。
总之,学习数据治理,看它准没错!
▊《数据治理:工业企业数字化转型之道》
祝守宇,蔡春久 等 著
· 一本数据工作者都需要的工作指南
· 国内工业企业数据管理专业人士的集体智慧
本书是工业大数据应用技术国家工程实验室多年潜心研究的重要科研成果的总结和凝聚,既具有理论高度,也具备面向中国工业企业的可实操性。参与本书编著的作者均为国内各企业的数据治理专家,所有案例均来自这些企业的实践。
数据工作者必备工作技能:数据治理相关推荐
- 数据人必备软技能:沟通
沟通是一门学问 |0x00 为什么要重视沟通 大多数技术人,都在抱怨同样的一件事:"沟通多.开会多".尽管我们抱着"技术改变世界"的理想从事这个行业,但现实却是 ...
- 软件测试必备工作技能有那些?
协同开发能力: 1. 项目管理(SVN.Git) 2. 数据分析能力(Fiddler.Charles.浏览器F12). 接口测试: 1. 概念及接口测试原理概念(概念.接口测试原理) 2. 接口测试工 ...
- 测试人员必备工作技能
很多年轻或者刚刚从事测试工作的工程师,经常会问:"测试工程师需要什么技能或者具有什么素质才是合格的?"与开发人员相比,测试人员不但需要一技之长,还需要掌握诸如操作系统.数据库.网络 ...
- 你们公司有做过数据迁移吗,行业中常见的数据迁移方案,了解下,每个人技术人必备的技能
互联网金融行业发生了翻天覆地的变化,相对应的金融科技也在不断的更新和迭代,每次有新的软件系统出炉的时候,就是老的软件系统命运终结的开始,老的项目当然不会束手就擒,它也会做最后的挣扎,当你从它身上迁移用 ...
- 99%的数据工作者不曾知道的一款利器
如果你是个资深的互联网人,一定不会对数据分析.人工智能这样的年度关键热词感到陌生.近一两年内冒出的新锐互联网科技公司.包括行业巨头,为了抢占未来竞争优势.构建商业壁垒,都纷纷押注人工智能赛道. 这波浪 ...
- 数据埋点|从隐私保护浅谈数据生命周期,初识数据埋点
点击上方 蓝字 关注我们 你是否和我有同样的感觉,不知道从什么时候开始我们的隐私已经彻彻底底地暴露,在互联网场景下我们就是在裸奔.列举几个情景,你应该也会感同身受. 想必在某宝上搜索过自己心仪的商品后 ...
- python数据可视化案例销售数据_Python数据可视化教程之Matplotlib实现各种图表实例...
前言 数据分析就是将数据以各种图表的形式展现给领导,供领导做决策用,因此熟练掌握饼图.柱状图.线图等图表制作是一个数据分析师必备的技能.Python有两个比较出色的图表制作框架,分别是Matplotl ...
- 优秀大数据分析师必备8大技能
什么是大数据分析师? 简而言之,大数据分析师就是使用技术技能来分析数据和报告见解的人. 通常,大数据分析师可能会使用SQL技能从公司数据库中提取数据,使用编程技能来分析该数据,然后使用沟通技巧来将其结 ...
- 大数据分析师必备的5项技能,否则只能是水货
大数据分析师必备的5项技能,否则只能是水货 如今是一个数据说话和数据竞争的时代,因此大数据分析师这个职业水涨船高,市场需求很大.这里先了解一下什么是大数据分析师.大数据分析师是数据师的一种,指的是不同 ...
- 算法/数据工程师必备技能
算法/数据工程师必备技能 基础知识 线性代数 矩阵理论 概率论 随机过程 图论 数值分析 最优化理论 机器学习 统计学习方法 数据挖掘 平台 Linux 语言 Python Linux shell ...
最新文章
- 5分钟学会打游戏的活体人脑细胞,比 AI 学习速度更快
- linux 将文件分成两部分,linux 将大文件分成小文件
- MySQL 数据格式化
- 三、深度学习框架Tensorflow
- word整个表格首行缩进_Word排版对不齐?别忘了这个明星按键
- Okay 第一篇文章从java字符串开始
- 【HAOI2008】【BZOJ1045】糖果传递(环形纸牌均分,前缀和)
- 开发工程师需要知道的网站
- C#中方法,方法声明,方法调用和方法重载!
- 回归分析什么时候取对数_为什么相关或回归分析时 x和y取log
- wps怎么删除空白页?你学会了吗?
- 免费赠品发布:Wintry Blue Wallpaper
- Python返回列表的中位数
- 这五款小众软件你肯定不知道
- 2019新征程 | SMIA新一批会员公示
- 【官宣】顺丰同城宣布苏炳添出任首位品牌代言人,给你稳稳的幸福
- [Andriod官方训练教程]管理Activity的生命活动之开始一个Activity
- 计算机删除打印记录,怎样消除电脑打印痕迹
- manjaro docker安装使用
- Python学习笔记02_流程控制