整体技术架构模块

第一阶段系统架构

完整系统架构蓝图

大数据分析系统分层关系

整体大数据管理平台,主要由大数据处理层、大数据存储层、大数据仓库层,大数据模型服务层组成。并可提供统一的数据管理工具和开发工具进行大数据管理平台管理和二次开发。
根据项目定位和业务需求,充分考虑不同业务场景对数据服务支撑的诉求,经过严格的测试与丰富的架构经验,本平台将支持内存数据库和关系型数据库的混搭模式作为平台数据服务支撑架构,可升级支持采用分布式文件存储/处理系统、大数据SQL查询引擎。

1.1 系统建设特点

  1. 建设具备良好设计的包括企业级大数据平台、计算引擎、BI在内的大数据分析平台,为数据分析工作提供强有力的系统支撑;
  2. 满足高层管理的宏观监控、中层管理的数据分析、基层分析的问题追溯;
  3. 提供综合业务数据分析,能够打通现有各个信息系统,在完全不修改现有系统任何配置的基础上,打通各个信息系统底层数据库,给决策层提供跨系统的,跨平台的、总体的、宏观的分析报告;
  4. 根据不同用户层面,支持报表分析、仪表盘分析,手机应用分析等多种系统服务及应用,设计对应展现仪表盘、分析报表,提升用户体验,以及系统的使用率;
  5. 做到真实、客观反映业务的运营水平,覆盖VP层面、工厂层面、部门层面主题的分析,统一各指标的业务口径、分析维度、指标体系等数据标准,满足公司、各区域关键业务运营及系统应用情况监控;
  6. 实现自动指标统计及预警;
  7. 准确及时地将各指标推送给相关人员,通过制定业务数据质量评价指标,提升业务数据质量,为大数据价值护航;
  8. 建立标准的数据分析流程,规范业务操作流程。推动企业数据分析组织的建设,以推动数据在企业上下、价值链上下游的拉通,用数据驱动业务变革;

1.2 基本架构资质

  1. 本地/云端,合规性,符合本地法律合规性法律要求
  2. 本地/云端,安全认证资质,符合ISO/IEC 27001和更新的安全标准
  3. 云端,符合信息安全等级,符合GBT 22240和以上安全等级,符合“可信云”及“等保三级”

1.3 基本架构特征

  1. 通过专用工具进行数据装载或大数据工具进行数据装载如Hadoop,再将业务系统及生产设备数据抽取到大数据平台。
  2. 流式数据情况下,可通过高吞吐量的分布式发布订阅消息系统,通过IO的磁盘数据结构提供消息的持久化,这种结构对于即使数以TB的消息存储也能够保持长时间的稳定性能。支持通过服务器和消费机集群来分区消息。支持Hadoop并行数据加载。
  3. 结构化数据情况下:使用可视化配置抽取工具从各个业务系统或其他数据源中将数据加载到ODS中,后构造DW(数据仓库)
  4. 数据处理层通过大数据技术实现数据高性能计算。
  5. 使用报表平台管理展示报表并实现域控集成,实现单点登录,形成报表与表单系统梳扭点。
  6. 使用BI展示工具开发各种业务所需报表
  7. 基于数据仓库中的数据,为给不同的业务对象提供数据分析。

若有什么需要修正请联系我: 林嘉诚, jacksonlin_China@163.com

PowerBI 1. 系统技术整体架构相关推荐

  1. 浅析支付系统的整体架构

    支付的典型架构 每个公司根据其业务和公司发展的不同阶段,所设计的支付系统也会有所不同.我们先看看互联网公司的一些典型的支付系统架构. 支付宝 先看看业内最强的支付宝系统,支付宝的支付系统整体架构设计 ...

  2. 用户行为分析笔记(二):系统的整体架构

    昨晚写的博文得到大家积极的反馈,非常喜欢这样一种交流的过程,也发现自己还有很多知识掌握的不够好,javascript是我主攻方向,对它的学习要求一定要高,其实对象创建的中篇写的不是太好,太仓促了,很多 ...

  3. 互联网产品之百万级高并发技术整体架构

    高并发是由于移动APP或网站PV(page view)即页面浏览量或点击量大,单台服务器无法承载大量访问所带来的压力,因此会采用服务器集群技术,用N台服务器进行分流,对于每次访问采取负载均衡策略,被分 ...

  4. 01 场景:一个真实电商订单系统的整体架构、业务流程及负载情况

    1.电商核心业务--下单流程 1.1 下单流程图 1.2 流程说明: 用户浏览商品系统 添加商品到购物车 选择其中某些商品下订单--提交订单 拉起微信支付.支付宝支付--支付订单 支付成功后,通知第三 ...

  5. 厉害了!一文看懂各大互联网支付系统整体架构

    在互联网产品运营中,有很多小伙伴或许会遇到这样的困扰:产品好不容易推出来了,流量成本节节攀升,用户的活跃度.留存度却持续下降. 因此在瞬息万变的互联网产品环境中,需要研发接入支付系统来加入商业行为的闭 ...

  6. 互联网支付系统整体架构

    从产品分类.模块功能和业务流程,了解支付产品服务的设计 支付产品模块是按照支付场景来为业务方提供支付服务.这个模块一般位于支付网关之后,支付渠道之前. 它根据支付能力将不同的支付渠道封装成统一的接口, ...

  7. 【2017年第4期】工业大数据技术与架构

    郑树泉,1,3, 覃海焕,2,3, 王倩,1,3 1. 上海计算机软件技术开发中心,上海 201112 2. 上海电机学院电子信息学院,上海 201306 3. 上海产业技术研究院工程大数据服务创新中 ...

  8. 手哥架构宝典系列:支付系统2.0架构演进

    本文节选自手哥架构宝典 - 支付系统演进2.0版本 手哥架构宝典之支付系统1.0发布后,很多架构师朋友表示收益匪浅,询问支付系统2.0版本什么时候放出来,今天刊发出<架构宝典>支付系统2. ...

  9. 深度阐述数据建模及可视化系统技术方案

    1.系统概述 数据建模及可视化系统系统是一站式全链路数据生命周期管家,帮助用户管理数据资产并挖掘价值.平台提供多源异构的数据采集模块.实时/离线计算框架,简洁易用的开发环境和平台接口,为政府机构.企业 ...

最新文章

  1. [HNOI2008]GT考试[矩阵快速幂+kmp优化的dp]
  2. 复习05统计学习方法(决策树算法Decision Tree)---图片版
  3. Java反射原理剖析一
  4. 双层lstm每层有自己的权重参数吗_一幅图真正理解LSTM的物理结构
  5. 【289】◀▶ Python I/O 读写文本文件
  6. JAVA vo pojo javabean dto区别
  7. 卷积神经网络-进化史 | 从LeNet到AlexNet
  8. win10开发java_java的开发环境(win10)
  9. 实验二木马分析(控制分析)实验和实验三冰河木马实验
  10. Jquery头像编辑器
  11. WIN7,WIN10,WIN11怎么查看电脑操作系统位数
  12. 智慧工厂如何实现工业设备的状态采集
  13. 微信图片去除马赛克_3个实用的图片去马赛克方法
  14. 004-行为型-02-模板方法模式(Template Method)
  15. 【《卓有成效的工程师》摘要\笔记】
  16. 一代人终将老去,但总有人正年轻
  17. 生产计划排产软件能为企业生产管理提供哪些帮助?
  18. moviepy中视频读写与预览
  19. java去掉html中的图片,java去掉html标签工具
  20. 135编辑器导出html,135编辑器教程|三步教你搞定表格样式

热门文章

  1. println 和print 的区别
  2. 手淘首页改版,如何打造首页流量,快速获取猜你喜欢流量的四种方法
  3. iOS9 WKWebView 释放时闪退
  4. 买家给好评or差评,取决你有没有做这些
  5. Share 远离驼背你可以更帅、更美
  6. 2023.6.30每日一题
  7. 【常用运维技巧】Linux文件创建的N种方法
  8. 【牛投客】:股票入门知识讲解
  9. 知到网课平面动画设计考试答案解析,历年真题题库
  10. 《图解TCP/IP》读书笔记九:网络安全