无论是增量、全量还是日志,最终输出到结果kafka中的消息都是我们约定的统一消息格式,称为UMS(unified message schema)格式。如下图所示:

  • Protocol

    • 数据的类型,被UMS的版本号
  • schema
    • namespace 由:类型. 数据源名.schema名 .表名.表版本号. 分库号 .分表号 组成,能够描述所有表。

      • 例如:mysql.db1.schema1.testtable.5.0.0
    • fields是字段名描述
      • ums_id_ 消息的唯一id,保证消息是唯一的
      • ums_ts_ canal捕获事件的时间戳;
      • ums_op_ 表明数据的类型是I (insert),U (update),B (before Update),D(delete)
      • ums_uid_ 数据流水号,唯一值
  • payload是指具体的数据
    • 一个json包里面可以包含1条至多条数据,提高数据的有效载荷。

Dbus中UMS统一消息格式相关推荐

  1. wps斜杠日期格式_在WPS表格中轻松统一日期格式

    平常办公中经常需要收集汇总下级各部门上报的数据表格.由于各部门输入人员并没有按统一标准格式输入日期,汇总数据之后往往会发现汇总数据中的日期有很多种格式.除了2009-2-3.1978年5月6日等标准格 ...

  2. MQTT-SN协议乱翻之消息格式

    前言 紧接着上篇初步介绍,本文为第二篇,主要梳理MQTT-SN 1.2协议中定义的消息格式. 通用消息格式 消息头 其它可变部分 2/4字节表示 N字节组成 消息头部 长度 消息类型 1或3个字节 1 ...

  3. HTTP/1.1(消息格式、连接管理、条件请求、范围请求、缓存、身份验证)

    文章目录 概述 消息格式 开始行 请求方法 请求目标 状态码 头部字段 消息体 连接管理 条件请求(Conditional Requests) 范围请求(Range Requests) 缓存(Cach ...

  4. R语言将数据列中的多种日期格式统一变化为一种固定格式实战:使用lubridate包中的parse_date_time函数

    R语言将数据列中的多种日期格式统一变化为一种固定格式实战:使用lubridate包中的parse_date_time函数 目录

  5. ROS消息格式-vision_msgs/Detection2DArray (后续创作中...)

    1. 终端中查看消息格式 ➜ ~ rosmsg show vision_msgs/Detection2DArray std_msgs/Header header uint32 seqtime stam ...

  6. Kafka消息格式中的变长字段(Varints)

    欢迎支持笔者新作:<深入理解Kafka:核心设计与实践原理>和<RabbitMQ实战指南>,同时欢迎关注笔者的微信公众号:朱小厮的博客. 欢迎跳转到本文的原文链接:https: ...

  7. 在Word2016及以上版本中,如何统一查看文章全部的脚注内容?个别脚注被增删,脚注顺序错乱怎么办?从一个Word复制到另一个Word中后,原文中脚注序号的格式变大了如何改回正常?

    一.在Word2016及以上版本中统一查看文章全部的脚注内容 操作:视图--草稿视图--引用--显示备注 效果如下:  二.个别脚注被增删,脚注顺序错乱怎么办 操作:在上一步操作基础上,光标停在脚注区 ...

  8. kafka之消息格式

    kafka之消息格式 - 爱码网文章目录Kafka版本消息格式V0版本V1版本Message SetV0与V1的缺陷V2版本Kafka版本kafka版本1.1.1,可能绝大部分也适用于kafka 0. ...

  9. Spring Boot 无侵入式 实现 API 接口统一 JSON 格式返回

    点击上方蓝色"方志朋",选择"设为星标" 回复"666"获取独家整理的学习资料! 无侵入式 统一返回JSON格式 其实本没有没打算写这篇博客 ...

  10. [Web API] 如何让 Web API 统一回传格式以及例外处理[转]

    [Web API] 如何让 Web API 统一回传格式以及例外处理 前言 当我们在开发 Web API 时,一般的情况下每个 API 回传的数据型态或格式都不尽相同,如果你的项目从头到尾都是由你一个 ...

最新文章

  1. 专家:物联网时代信息安全问题亟待各方携手破题
  2. python【力扣LeetCode算法题库】219 -存在重复元素 II
  3. 原生js cookie本地存储
  4. 模式主节点ORACLE DG介绍(物理无实例)
  5. 为什么子进程每次执行顺序不一样_看完这篇还不懂Redis的RDB持久化,你来打我...
  6. mysql 创建分区表_Mysql分区表及自动创建分区Partition
  7. 编写安全的驱动程序之验证驱动的调用者
  8. element ui中el-image不显示图片
  9. k-means 文本聚类 java_K-means文本聚类系列(已经完成)
  10. Vue.js——登录界面实现插入背景
  11. 神经网络训练双螺旋曲线模型
  12. 分享十一个学习css的小游戏,快来下载吧!
  13. 100%可用的总裁主题授权版 WordPress付费资源素材下载主题
  14. Python简介,第2章–字符串和列表
  15. 【音频处理】视频加速音频不变调
  16. react钩子_使用钩子在react中分页数据视图
  17. J-flash工具使用教程
  18. iOS冰与火之歌番外篇 - App Hook答疑以及iOS 9砸壳
  19. 创意黑板彩色粉笔PPT模板
  20. (一) 常见异常的捕获 // // (1) 编写一个程序,分别生成ArrayIndexOutOfBoundsException类型和ArithmeticException类型的异常。

热门文章

  1. mysql 表合并去重复数据_多表合并且去掉重复项
  2. 硬盘dd技巧,硬盘拷贝操作步骤和技巧
  3. windows端口占用查询进程结束工具
  4. vue+Nodejs+Koa搭建前后端系统(三)--koa-generator项目优化修改
  5. linux开源软件禁用,让 Linux 无障碍使用的 7 款开源软件
  6. Air32F103CBT6|CCT6|KEIL-uVsion5|本地编译|STClink|(6)、Air32F103编译下载
  7. GE IS200SPIDG1ABA 控制主板卡件模块
  8. 虚拟化三剑客专题-XenServer(上)
  9. 我一直在努力 -- 送给所有的共享新手
  10. 基于JWT实现用户身份认证