OLTP+OLAP->HTAP
一、OLTP
On-Line Transaction Processing:联机事务处理过程(OLTP)
OLTP是事件驱动、面向应用的,也称为面向交易的处理过程。其基本特征是前台接收的用户数据可以立即传送到计算中心进行处理,并在很短的时间内给出处理结果,是对用户操作的快速响应。例如银行类、电子商务类的交易系统就是典型的OLTP系统。其具备以下特点:
直接面向应用,数据在系统中产生。
基于交易的处理系统。
每次交易牵涉的数据量很小;对响应时间要求非常高。
用户数量非常庞大,其用户是操作人员,并发度很高。
数据库的各种操作主要基于索引进行。
以SQL作为交互载体。
总体数据量相对较小。
二、OLAP
On-Line Analytical Processing:联机实时分析(OLAP)
OLAP是面向数据分析的,也称为面向信息分析处理过程。它使分析人员能够迅速、一致、交互地从各个方面观察信息,以达到深入理解数据的目的。其特征是应对海量数据,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。例如数据仓库是其典型的OLAP系统。其具备以下特点:
本身不产生数据,其基础数据来源于生产系统中的操作数据
基于查询的分析系统;复杂查询经常使用多表联结、全表扫描等,牵涉的数量往往十分庞大
每次查询设计的数据量很大,响应时间与具体查询有很大关系
用户数量相对较小,其用户主要是业务人员与管理人员
由于业务问题不固定,数据库的各种操作不能完全基于索引进行
以SQL为主要载体,也支持语言类交互
总体数据量相对较大
2.1 一些概念
OLAP数据立方体,是一种用于支持OLAP上卷、下钻、切片、切块操作的多维数据模型。立方体的每个单元,存放一个聚合值。
- 下钻(Drill-down):由粗粒度向细粒度拆分。如通过季度销售数据钻取每个月的销售数据。
- 上卷(Roll-up):下钻的逆操作。
- 切片(Slice):通过将其中一个维度选择单个值,从而创建具有较少维度的新多维数据集合。如只选电子产品销售数据。
- 切块(Dice):相比切片是选中多个维度。如第一季度到第二季度销售数据。
- 旋转(Pivot):维的位置互换,类似行列转换。
OLAP按数据存储格式可分类为:ROLAP、MOLAP、HOLAP
名称 | 描述 | 细节数据存储位置 | 聚合后的数据存储位置 |
---|---|---|---|
ROLAP(Relational OLAP) | 基于关系数据库的OLAP实现 | 关系型数据库 | 关系型数据库 |
MOLAP(Multidimensional OLAP) | 基于多维数据组织的OLAP实现 | 多维数据库 | 数据立方体 |
HOLAP(Hybrid OLAP) | 基于混合数据组织的OLAP实现 | 关系型数据库 | 数据立方体 |
ROLAP更灵活、MOLAP响应性能更好。
2.2 ROLAP
概述:
这种方法依赖于操作存储在关系型数据库中的数据,给传统的OLAP slicing 和 dicing功能。本质上,每个slicing或dicing功能和SQL语句中"WHERE"子句的功能是一样的。
优势:
可以处理大数据量:ROLAP技术的数据量大小就是底层关系数据库存储的大小。换句话说,ROLAP本身没有对数据量的限制。
可以利用关系型数据库所固有的功能:关系型数据库已经具备非常多的功能。ROLAP技术,由于它是建立在关系型数据库上的,因此可以使用这些功能。
劣势:
性能可能会很慢:因为每个ROLAP包裹实际上是一个SQL查询(或多个SQL查询)关系数据库,可能会因为底层数据量很大,使得查询的时间很长。
受限于SQL的功能:因为ROLAP技术主要依赖于生成SQL语句查询关系数据库,SQL语句并不能满足所有的需求(举例来说,使用SQL很难执行复杂的计算),ROLAP技术因此受限于SQL所能做的事情。ROLAP厂商已经通过构建工具以减轻这种风险,而且允许用户自定义函数。
2.3 MOLAP
概述:
这是OLAP分析的传统方式。在MOLAP中,数据存储在一个多维数据集(cube)中,存储并不是在传统的关系型数据库中,而是自定义的格式。
优势:
卓越的性能:MOLAP cubes为了快速数据检索而构建,具有最佳的slicing dicing操作
可以执行复杂的计算:所有的计算都在创建多维数据表时预先生成。因此,复杂的计算不仅可行,而且迅速
劣势:
它可以处理的数据量有限:因为所有的计算都是执行在构建的多维数据集上,多维数据集本身不可能包括大量的数据。当然这并不是大数据不能派生出多维数据集。事实上,这是可以的。但是在这种情况下,只有汇总的信息能够包含在多维数据集中。
需要额外的成本:多维数据集技术往往是有专利或现在并不存在在某个组织中。因此,要想采用MOLAP技术,通常是要付出额外的人力和资源成本。
2.4 HOLAP
概述:
HOLAP技术试图将MOLAP和ROLAP技术的优势结合起来。总体来说,HOLAP利用了多维数据集的技术从而得到更快的性能。
当需要详细信息时,HOLAP可以从多维数据集“穿过”到底层的关系数据库。
三、OLTP与OLAP对比
四、HTAP
HTAP数据库(Hybrid Transaction and Analytical Process,混合事务和分析处理)。2014年Gartner的一份报告中使用混合事务分析处理(HTAP)一词描述新型的应用程序框架,以打破OLTP和OLAP之间的隔阂,既可以应用于事务型数据库场景,亦可以应用于分析型数据库场景。实现实时业务决策。
这种架构具有显而易见的优势:不但避免了繁琐且昂贵的ETL操作,而且可以更快地对最新数据进行分析。这种快速分析数据的能力将成为未来企业的核心竞争力之一。
OLTP+OLAP->HTAP相关推荐
- OLTP、OLAP与HTAP
OLTP On-Line Transaction Processing联机事务处理过程(OLTP) 也称为面向交易的处理过程,其基本特征是前台接收的用户数据可以立即传送到计算中心进行处理,并在很短的时 ...
- 数据库基本概念:OLTP/OLAP/HTAP、RPO/RTO、MPP
数据库基本概念:OLTP/OLAP/HTAP.RPO/RTO.MPP OLTP OLAP HTAP 行存储 列存储 MPP RTO RPO OLTP OLTP=Online Transaction P ...
- mysql搭建olap_构建云上OLTP+OLAP数据库服务解决方案_数据库上云_阿里云
{"textConfig":{"ifExchange":"false","data":[{"tabText&q ...
- OLTP、OLAP、HTAP之间的区别
1.OLTP 联机事务处理 事件驱动.面向应用,主要特性: (1)数据是应用系统产生的 (2)每次处理的数据量很小 (3)相应时间要求高 (4)用户量大,并发度高 (5)各种数据操作主要基于索引进行 ...
- OLTP OLAP
OLTP与OLAP的介绍 数据处理大致可以分成两大类:联机事务处理OLTP(on-line transaction processing).联机分析处理OLAP(On-Line Analytical ...
- OLTP, OLAP, 即席查询(ad hoc query)区别与联系
对于目前来讲,对数据的处理主要集中在两个方面,一种是联机事务处理OLTP(on-line transaction processing),另一种是联机分析处理OLAP(On-Line Analytic ...
- idea 调用c#接口_c# api接口开发
如何打造一款标准的 JS SDK ? 岳鹰全景监控,是阿里UC官方出品的先进移动应用线上监控平台,为开发者及企业提供一套完整的移动应用线上质量监控解决方案.岳鹰WEB前端监控,可实时监控页面性能.JS ...
- 阿里云数据库产品HybridDB简介——OLAP数据库,支持行列混合存储,为用户提供基于开源 OLTP、OLAP、BigData 生态的一站式解决方案...
12 月 9 日,阿里云宣布数据库产品 HybridDB 正式商业化. HybridDB(ApsaraDB HybridDB)是一款在线 MPP 大规模并行处理数据仓库的服务.它基于 Pivotal ...
- HTAP数据库 PostgreSQL 场景与性能测试之 28 - (OLTP) 高并发点更新
标签 PostgreSQL , HTAP , OLTP , OLAP , 场景与性能测试 背景 PostgreSQL是一个历史悠久的数据库,历史可以追溯到1973年,最早由2014计算机图灵奖得主,关 ...
- 分布式数据库TiDB是如何结合OLTP和OLAP的?
TiDB是一款开源.云原生.MySQL兼容的分布式数据库,可以处理混合事务和分析处理(HTAP)工作负载.它是"NEWSQL"关系数据库的一员,被设计为方便大规模部署.也许有人想知 ...
最新文章
- 苹果电脑安装python-mac电脑安装python
- 批处理相对路径51CTO自动领豆(Python)
- 【Javascript】 == 、=== 区别
- Allegro光绘的导出
- 如何加声调口诀_声母韵母口诀顺口溜歌曲(怎么快速记住声母韵母)
- bcp+Sql语句抽取数据导出
- 顺序图中页面、窗口等为什么当做类处理?
- 现控笔记(四):能控性和能观性
- C# Sql 触发器
- ADSL拨号网络环境下实时视频广播的完美实现
- 各种密码在线转换网址
- java 实现屏幕录像_用JAVA捕获屏幕、屏幕录像、播放
- 计算机软硬件的组成及主要技术指标,计算机软硬件系统的组成及主要技术指标...
- uniapp实现微信登录
- 如何用python做比分网_使用python对历届世界杯进行数据分析
- 应广PFS122单片机比较器测供电电源VDD电压带临界点消抖处理
- ASCII 控制码说明
- Java毕设项目在线答题系统计算机(附源码+系统+数据库+LW)
- 漫游测试之性能测试(5.5-查询设计)
- Thinkpad 笔记本散热风扇声音大解决办法
热门文章
- jxls对比_久别重逢 QQ影音4.0跟旧版对比更新了什么?
- JDK与JER的区别
- VBS了解一下呗(有没有用学了才知道)
- mysql8.0 之 sql 优化《三B》 之 优化范围查询 总览 总结
- 超级详细树讲解三 —— B树、B+树图解+代码
- [转]叔本华《要么庸俗 要么孤独》
- linux内核如何读写ddr,linux内核解压详解.doc
- git在commit时候不commit某些文件
- 如何用python画一束花_如何在AI里绘制一束春天的花朵
- 高精度加法(C语言实现)