Flink CDC 系列文章:
《Flink CDC 系列(1)—— 什么是 Flink CDC》
《Flink CDC 系列(2)—— Flink CDC 源码编译》
《Flink CDC 系列(3)—— Flink CDC MySQL Connector 与 Flink SQL 的结合使用案例Demo》
《Flink CDC 系列(4)—— Flink CDC MySQL Connector 常用参数表》
《Flink CDC 系列(5)—— Flink CDC MySQL Connector 启动模式》
《Flink CDC 系列(6)—— Flink CDC MySQL Connector 工作机制之 Incremental Snapshot Reading》
《Flink CDC 系列(7)—— 从 MySQL 到 ElasticSearch》

文章目录

  • 什么是 Flink CDC
  • 功能特性
  • 与 Flink 版本的对应关系

什么是 Flink CDC

Flink CDC 是 CDC(change data capture 变更数据捕获)在 Flink 的一种实现,具体体现为一系列的 Flink CDC Connector,如 Mysql CDC connector,PostgreSQL connector 等。Flink CDC Connector 内嵌了 Debezium 来捕获数据变更。
官网地址:https://ververica.github.io/flink-cdc-connectors/master/

(图片引自官网)

支持的数据源 :

数据源 版本
MySQL Database: 5.7, 8.0.x , JDBC Driver: 8.0.16
PostgreSQL Database: 9.6, 10, 11, 12 JDBC Driver: 42.2.12
MongoDB Database: 3.6, 4.x, 5.0, MongoDB Driver: 4.3.1
Oracle Database: 11, 12, 19,Oracle Driver: 19.3.0.0

功能特性

  • 支持数据库级别的快照,读取全量数据,2.0版本可以支持不加锁的方式读取
  • 支持 binlog,捕获增量数据
  • Exactly-Once
  • 支持 Flink DataStream API,不需要额外部署 Debezium 和 Kafka即可在一个 Flink 作业中完成变更数据的捕获和计算
  • 支持 Flink Table/SQL API,可使用 SQL DDL 来创建 CDC Source 表,并对表中的数据进行查询。

与 Flink 版本的对应关系

Flink CDC Connector 版本 Flink 版本
1.0.0 1.11.*
1.1.0 1.11.*
1.2.0 1.12.*
1.3.0 1.12.*
1.4.0 1.13.*
2.0.* 1.13.*
2.1.* 1.13.*

Flink CDC 系列(1)—— 什么是 Flink CDC相关推荐

  1. Flink CDC 系列(3)—— Flink CDC MySQL Connector 与 Flink SQL 的结合使用案例Demo

    Flink CDC 系列文章: <Flink CDC 系列(1)-- 什么是 Flink CDC> <Flink CDC 系列(2)-- Flink CDC 源码编译> < ...

  2. 【Flink实战系列】Lorg/apache/flink/kafka/shaded/org/apache/kafka/clients/consumer/ConsumerRecord;)Ljava/

    java.lang.AbstractMethodError: Method flink/stream/deserialization/PoJoDeserializationSchema.deseria ...

  3. 云星数据---Apache Flink实战系列(精品版)】:Flink流处理API详解与编程实战002-Flink基于流的wordcount示例002

    三.基于socket的wordcount 1.发送数据 1.发送数据命令nc -lk 9999 2.发送数据内容good good studyday day up 2.处理数据 2.1执行程序 pac ...

  4. Flink CDC 系列(7)—— 从 MySQL 到 ElasticSearch

    Flink CDC 系列文章: <Flink CDC 系列(1)-- 什么是 Flink CDC> <Flink CDC 系列(2)-- Flink CDC 源码编译> < ...

  5. Flink CDC 系列 - Flink CDC 如何简化实时数据入湖入仓

    摘要:本文整理自伍翀 (云邪).徐榜江 (雪尽) 在 Flink Forward Asia 2021 的分享,该分享以 5 个章节详细介绍如何使用 Flink CDC 来简化实时数据的入湖入仓, 文章 ...

  6. Flink 如何实时分析 Iceberg 数据湖的 CDC 数据

    简介:数据湖的架构中,CDC 数据实时读写的方案和原理 本文由李劲松.胡争分享,社区志愿者杨伟海.李培殿整理.主要介绍在数据湖的架构中,CDC 数据实时读写的方案和原理.文章主要分为 4 个部分内容: ...

  7. Flink系列之:基于Flink CDC2.0实现海量数据的实时同步和转换

    Flink系列之:基于Flink CDC2.0实现海量数据的实时同步和转换 一.CDC技术 二.Flink CDC技术 三.传统数据集成方案的痛点 1.传统数据入仓架构1.0 2.传统数据入仓架构2. ...

  8. Apache Flink 漫谈系列(12) - Time Interval(Time-windowed) JOIN...

    说什么 JOIN 算子是数据处理的核心算子,前面我们在<Apache Flink 漫谈系列(09) - JOIN 算子>介绍了UnBounded的双流JOIN,在<Apache Fl ...

  9. Apache Flink 漫谈系列 - JOIN 算子

    2019独角兽企业重金招聘Python工程师标准>>> 聊什么 在<Apache Flink 漫谈系列 - SQL概览>中我们介绍了JOIN算子的语义和基本的使用方式,介 ...

最新文章

  1. mstsc VS vnc : 远程桌面最快的原因在于RDP协议
  2. Tomcat的虚拟主机的配置
  3. flutter学习(排雷)一
  4. 运行时权限+读取系统联系人
  5. JMeter4.0以上 分布式测试报错 server failed start Listen failed on port
  6. canvas实现web excel高性能表格(发布开源)
  7. MySQL数据库的卸载
  8. 51单片机(六).单片机输出电路实践——LCD1602与LCD12864的使用
  9. 如何自己开发一个Android APP(1)——环境配置
  10. 初识数据分析利器SPSS
  11. 万卷书 - 如何在股市中赚钱 How to Make Money in Stocks
  12. 面试季,覆盖70%-80%的面经基础题(java及安卓)-------java篇
  13. 小米note 卡在android,小米note怎么插卡?小米note详细插卡教程分享
  14. QOS中 PQ,CQ.RR,WFQ,CBWFQ,LLQ区分(下)
  15. PID控制器、试凑法整定
  16. 上下取整函数的关系以及一些重要性质(附证明)
  17. 我的奋斗之黑马第一天
  18. 论文Learning to Solve Large-Scale Security-Constrained Unit Commitment Problems阅读笔记
  19. 英语练习32 Poor Amy
  20. 小甜饼cookie之精准投放

热门文章

  1. 广西小学计算机教案上册,第9课 去上排键家做客 教案
  2. HSDC和独立生成树相关
  3. 外行对程序员误会有多深!
  4. 蓝牙模块Noble不兼容最新的macOS系统(10.15.4)的解决方法
  5. mssql 数据库恢复
  6. java之implements和extends
  7. 什么是Bash、什么是shell?
  8. 小苏有朋遭禁播性感舞曲MV流出,骚男崛起OR妖男现世-色彩型男马宁
  9. mysql快速生成100W条测试数据(8)全球各城市人口及经济增长速度并存入mysql数据库
  10. 700万行数据,Excel也能轻松应对,你会吗?