项目背景

澳门某分行原先采用Oracle数据搭建其大数据平台,经过多年使用,现在Oracle已经不能支撑其不断发展的业务。随着数据量上升,现在的大数据库平台数据清洗时间过长,日报经常需要T+2才能展示,月报需要到15号以后才能发布,严重影响了澳门中行的业务开展。

关注问题

该行需要一款能够替代Oracle功能并达到更好性能的数据库,在不进行纵向扩容的前提下,通过资源横向扩展来实现性能提升,最大限度的减少系统建设成本,实现“低投入、高产出”的效果。

建设要求

l 数据库必须支持横向扩展;

l 支持在线的扩容/缩容;

l 支持Oracle窗口函数、分析型函数;

l 提供一键式的数据迁移工具;

l 支持去中心化部署,系统没有单点故障和单点性能瓶颈;

l 系统支持PB以上结构化数据的承载和分析能力。

我方为客户提供GBase 8a MPP Cluster数据仓库,共部署6个集群节点,采用节点数据高可用机制,每个节点包含一个主分片,并同时保存其他节点的两个备片。

集群各节点间通过万兆以太网交换机互联,用于数据加载和节点间数据交换;集群通过万兆网及双网卡主备模式绑定对外提供客户端访问服务。

6个节点中,每个节点均部署coor与data,一主两备(p 1 d 2),这样每个节点包含一个主分片及两个备份分片,在兼顾集群空间利用的情况下(17T * 6 * 5 / 2 = 255T),达到集群的高可用性的要求。

实施情况

我司为客户完成了6个节点的GBase 8a MPP集群的搭建,并提供监控系统以便客户方便的进行集群状态的监控和运维。

通过完成集群搭建和配置,完成了数据一主两备的部署模式,同时coor与data节点均部署6个,可实现任何节点宕机后集群功能不受影响同时性能仅下降1/6。

效果及价值

本项目大幅度提升了客户的大数据分析能力:

l 通过此次项目实施,系统性能较Oracle环境跑批时间仅为原先的1/20,系统性能提升超过10倍。

l 原系统复杂业务原跑批时间4小时,新平台仅为20分钟。

l 原Oracle环境需要采用基于DG的oracle高可用机制,同时仅一台服务器提供服务,另一台为备份,新系统可进行全集群的交叉备份,运行时全部六台机器均参与计算,最大限度的发挥整个集群性能。

l 系统彻底避免了单节点故障,使整个系统高可用能力上升到了一个新的阶段。

案例分享|国内某大行澳门分行数据平台案例相关推荐

  1. 案例分享|国内某大行数据平台案例

    1.项目背景 近年来,随着大数据时代的到来,中行的数据规模增长迅速,数据来源.形态也呈多样化趋势,对于海量数据的多层次.高时效分析挖掘需求日益增加. 当前,国内银行业采用基于开放X86的MPP架构数据 ...

  2. 2021国内十大正规外汇投资理财app平台排行榜

    随着国内金融市场对外开放的步伐加快,外汇逐渐成为一种时尚的投资.近两年国内外汇交易以年均70%以上的速度增长,外汇经纪商.从业人员和市场规模.投资者数量,正在以井喷的态势,强势崛起,外汇将会成为未来长 ...

  3. 房地产集团数据平台案例

    房地产集团数据平台案例 项目背景 某房地产集团随着业务的发展,用户数量增加,ERP系统的更换与数据源的增加,旧的数据平台暴露出明显的问题. 01 数据不够全面 目前主要集中在资管.品牌数据 02 数据 ...

  4. 案例 | 看某国有大行如何构建内部数据安全风险管控核心能力

    作为国民经济命脉,银行等金融机构的业务数据是银行最本质.最核心.最关键的生产要素,其安全与否事关公民个人权益与社会稳定.在此情况下,某国有大行携手美创科技,利用美创数据库防水坝以及美创数据库防泄漏系统 ...

  5. 案例分享:Qt西门子机床人机界面以及数据看板定制(西门子通讯,mysql数据库,生产信息,参数信息,信息化看板,权限控制,播放器,二维图表,参数调试界面)

    若该文为原创文章,转载请注明原文出处 本文章博客地址:https://blog.csdn.net/qq21497936/article/details/118685521 长期持续带来更多项目与技术分 ...

  6. “最强大脑”智慧检务如何落地?最佳智慧检务大数据平台案例!

    ​前几年,被称为史上最大尺度的正剧<人民的名义>刷爆了各大社交平台.除了剧情.演员之外,剧中检察院使用的黑科技也成为人们热议的话题.其实,在现实中,检察机关也凭借智慧检务开启了检察信息化的 ...

  7. 案例分享|国内某资金清算中心

    1.项目背景 为了满足各种业务需求,大部分数据中心所使用的硬件和软件随着时间的推移都已变得杂乱无章.该客户数据中心由不同的服务器和存储孤岛组成,还包括将所有内容集成在一起的复杂软件组合. 2.关注问题 ...

  8. python创意实用案例-分享10个给Python小白看的实用案例,入门Python就在这里了

    图片来源:包图网 今天给大家分享十个Python入门级别的小案例. 这十个案例的难度不高,但是对于知识的使用非常全面,很适合小白在学习的初期建立学习信心和增加熟练度. 每个案例下都有或多或少的思路分析 ...

  9. 股票期货量化数据文档大全覆盖国内6大交易的史数据和实时行情

    原 股票期货量化数据文档大全,覆盖国内6大交易所的历史数据和实时行情 一.基础数据 目前掘金支持上交所, 深交所的股票, 中金所, 上期所, 大商所, 郑商所的期货, 交易标的查询. 可使用get_i ...

最新文章

  1. swift iOS8 XIB 问题 ViewController.init() xib
  2. Spark Scala语言学习系列之完成HelloWorld程序(三种方式)
  3. C++基础-string截取、替换、查找子串函数
  4. java基础----IO序列化Serializable
  5. JavaScript高级程序设计阅读笔记
  6. Streaming 101
  7. python复制sheet_python excel sheet复制
  8. 【算法刷题1】二叉树的前序遍历
  9. 一个全球主要城市天气预报的WebService.
  10. 拟合公式_Graphpad Prism 8.0对散点图进行拟合
  11. python 画风场 scipy_Python库之SciPy教程
  12. 《梦断代码》读后感2
  13. AngularJS------Error: Cannot find module '@angular-devkit/core'
  14. 学习有法,事半功倍 — 在线学习的10个技巧
  15. 不用手机的群控,什么原理
  16. 计算机网络-网络应用(下)
  17. 阳光的测试工作历程(转载)
  18. 为Fabric 1.4.4 first-network 添加PBFT排序算法
  19. Learn to Grow: A Continual Structure Learning Framework for Overcoming Catastrophic Forgetting论文阅读
  20. 解决[Error] ‘i‘ was not declared in this scope

热门文章

  1. 4.2 Lebesgue 积分的性质定理
  2. Google Play开发者账号被封、下架、提审被拒原因分析
  3. 广州市增城区2021-2022学年九年级第一学期期末考试英语试题
  4. 2017便利蜂前端一面
  5. DLP4500厂商给的,这套系统对win10反应比较大,最好在win7下操作
  6. 视频中为什么需要这么多的颜色空间?
  7. laya游戏开发之贪吃蛇大作战(二)—— 贪吃蛇客户端
  8. 使用vscode编译器:检测到 #include 错误。请更新 includePath。已为此翻译单元,无法打开源文件<iostream>
  9. docx 转换成html转pdf,python3将docx转换成pdf,html文件,pdf转doc文件
  10. 今日头条号怎么赚钱,个人通过今日头条如何赚钱的方法