如何用Know Streaming 快速对Kafka Topic 完成扩缩副本操作
文章目录
- 功能简介
- 操作流程
- 操作亮点
- 一次扩缩多个Topic
- 自定义副本目标节点
- 可预览扩缩副本的计划并手动修改
- 限流扩缩
- 实现原理
- Know Streaming介绍
功能简介
扩缩副本功能是原生Kafka没有的功能,或者说是没有直接提供的功能。
但是对于扩缩副本这么一个操作功能, 是属与平时不会用, 想用的时候干着急。
比如一开始你的Topic副本数填的是1, 运行了一段时间之后发现, 1的副本可不行啊, 高可用性大大降低, 需要扩副本。
但是你想要扩副本的时候才发现, kafka并没有提供此类功能, 处境很尴尬
现在,用Know Streaming 这个将不再是问题!
操作流程
①. Topic - > 批量变更 -> 迁移副本
②. 填写想要扩缩副本的Topic(可多选)
操作亮点
一次扩缩多个Topic
设置的时候可以一次性选择多个Topic进行副本的扩缩,并且每个Topic可以设置不同的副本数
自定义副本目标节点
如果你想扩缩副本操作之后 副本应该分配在哪些节点中,则可以在下面这里设置。
注:目标节点的数量一定是要大于等于 已选择Topic最终副本的最大数量的哦
比如一个topic 扩至2 一个扩至3. 那么目标节点一定要大于等于3
可预览扩缩副本的计划并手动修改
你可能想了解一下,扩缩之后的分配情况是什么样子的,那么你可以点击 预览任务计划
可以看到你可以针对每个Topic的每个分区的分配情况手动调节(一般情况是不需要的,除非你知道你做的是什么)
这个功能不仅能让你知道最终的分配情况,还能让你手动指定Broker还有顺序。
这个有什么用呢?
假如你想指定某个副本为Leader,按照优先副本的选举策略,你是不是就可以把你想要成为Leader副本的那个调整到最前面。
限流扩缩
扩缩副本的时候,本质上就是 副本的复制和副本的删除流程。
为了防止整个过程对正常业务的影响,这里可以让你设置整个过程的限流阈值。
减少对集群的压力
实现原理
副本的扩缩,本质上就是执行了一次分区副本重分配。
关于分区副本重分配流程请看: 分区副本重分配流程
Know Streaming介绍
Know Streaming脱胎于互联网公司内部多年的Kafka运营实践经验,通过0侵入、插件化构建企业级Kafka服务,极大降低操作、存储和管理实时流数据门槛
不会对Apache Kafka做侵入性改造,就可纳管0.10.x-3.x集群版本,帮助您提升集群管理水平;我们屏蔽了流处理的复杂性,让普通运维人员都能成为流处理专家
Know Streaming Github
Know Streaming 官网
如何参与共建
如何快速优雅的用Know Streaming创建Topic
如何用Know Streaming 快速对Kafka Topic 完成扩缩副本操作相关推荐
- Flume 以twitter为source,kafka为channel,hdfs为sink,再用spark streaming 读kafka topic
Flume 以twitter为source,kafka为channel,hdfs为sink,再用spark streaming 读kafka topic Flume的配置文件: kafka_twitt ...
- Kafka 集群扩容、分区重新分配、SparkStreaming自适应上游kafka topic partition数目变化
一.扩容场景 了解了数据迁移,我们来看下哪些场景需要进行扩容,然后有哪些方法可以实现快速扩容的效果.通常有如下两种需要紧急扩容的场景: 集群所有节点负载都高,需要快速扩容. 集群内某几台节点负载很高, ...
- Java程序创建Kafka Topic,以及数据生产消费,常用的命令
转自: Java程序创建Kafka Topic,以及数据生产消费,常用的命令_Zyy_z_的博客-CSDN博客_java kafka创建topicKafka简介: Kafka是一个分布式发布--订阅消 ...
- kafka topic 目录存放在哪_Kafka系列文章之安装测试-第2篇
前言 上篇文章讲解了 Kafka 的基础概念和架构,了解了基本概念之后,必须得实践一波了,所谓"实践才是检验真理的唯一办法",后续系列关于 Kafka 的文章都以 kafka_2. ...
- kafka spark java_spark streaming中维护kafka偏移量到外部介质
spark streaming中维护kafka偏移量到外部介质 以kafka偏移量维护到redis为例. redis存储格式 使用的数据结构为string,其中key为topic:partition, ...
- k8s ubuntu cni_K8S环境快速部署Kafka(K8S外部可访问)-WEB资讯专栏-DMOZ中文网站分类目录...
欢迎访问我的GitHub内容:所有原创文章分类汇总及配套源码,涉及Java.Docker.Kubernetes.DevOPS等:如何快速部署借助Helm,只需少量操作 欢迎访问我的GitHub 内容: ...
- K8S环境快速部署Kafka(K8S外部可访问)
如何快速部署 借助Helm,只需少量操作即可部署kafka: kafka和zookeeper对存储都有需求,若提前准备了StorageClass,存储一事则变得十分简单 参考文章 本次实战涉及到的K8 ...
- Flink系列之:基于scala语言实现flink实时消费Kafka Topic中的数据
Flink系列之:基于scala语言实现flink实时消费Kafka Topic中的数据 一.引入flink相关依赖 二.properties保存连接kafka的配置 三.构建flink实时消费环境 ...
- python编程怎么建立工程_教你如何用Python脚本快速创建项目
相信初学Cocos2D者对Python还很陌生,今天本篇教程教你如何用Python脚本快速创建项目. 在Cocos2d-x2.1.4以上的版本中,取消了使用vs模版创建项目的方法,开始使用python ...
最新文章
- 十大经典排序算法(建议收藏)
- JVM插码之五:Java agent+ASM实战--监控所有方法执行时间
- mysql 5.7.23要钱吗_最新mysql 5.7.23安装配置图文教程
- 设置Windows 8.1屏幕自己主动旋转代码, Auto-rotate function code
- win10运行vue项目_vue+webpack在window10环境下搭建及遇到的问题
- 编程不仅是写代码!?
- ora-12154问题处理
- 组件Button的简单用法
- Android 系统语言国家地区代码
- win7(win10)更改“文件类型显示图标“的终极修改方法
- Nginx 重定向 80 到443
- android动态style,Android控件动态设置style的问题
- SD-WAN是怎么实现的?纯技术篇(上)Sdwan-Cheap
- Element el-form 表单详解
- 651被远程计算机关闭,win7宽带连接提示错误651调制解调器报告了一个错误怎么办...
- MSP432 FPU与DSP测试
- 电脑的开机密码忘记了怎么打开
- 第6周 使用对象 1 单词长度(5分) 2 GPS数据处理(5分)
- 毕业设计-基于机器视觉的甘蔗茎秆识别方法-OpenCV
- FastStone Capture监视器上拍摄和拍摄