kafka 常见命令以及增加topic的分区数
2024-10-21 07:54:09
基础命令
1.创建topic
kafka-topics.sh --bootstrap-server ${kafkaAddress} --create --topic ${topicName} --partitions ${partipartions} --replication-factor ${replication} 2.查看topic详情
kafka-topics.sh --bootstrap-server ${kafkaAddress} --topic ${topicName} --describe 3.删除topic
kafka-topics.sh --bootstrap-server ${kafkaAddress} --delete--topic ${topicName} --partitions ${partitions} --replication-factor ${replication} 4.查看topic list
kafka-topics.sh --bootstrap-server ${kafkaAddress} --list 5.消费topic
kafka-console-consumer.sh --bootstrap-server ${kafkaAddress} --topic ${topicName} --from-beginning 6.查看kafka consumer group 消费情况
kafka-consumer-groups.sh --describe --bootstrap-server ${kafkaAddress} --group ${groupName} 7.已经创建的topic修改partipartions 和 replication-factor 数量
step:
a.修改partitions数量
kafka-topics.sh --bootstrap-server ${kafkaAddress} --topic ${topicName} --alter --partitions 4
b.创建increase-replication-factor.json in config,配置各分区replication-factor位置 {
"version": 1,
"partitions": [
{
"topic": "${topicName}",
"partition": 0,
"replicas": [
0,
1
]
},
{
"topic": "${topicName}",
"partition": 1,
"replicas": [
1,
2
]
},
{
"topic": "${topicName}",
"partition": 2,
"replicas": [
2,
3
]
},
{
"topic": "${topicName}",
"partition": 3,
"replicas": [
3,
0
]
}
]
}
c.更新replication-factor
kafka-reassign-partitions.sh --bootstrap-server ${kafkaAddress} --reassignment-json-file config/increase-replication-factor.json --execute
3.创建topic话题
bin/kafka-topics.sh --create --topic test --bootstrap-server 192.168.218.128:9092 -partitions 3 -replication-factor 1 查看所有topic话题
bin/kafka-topics.sh --list --bootstrap-server 192.168.218.128:9092 查看指定话题的详情
bin/kafka-topics.sh --bootstrap-server 192.168.230.128:9092 --describe --topic test 3.创建生产者
bin/kafka-console-producer.sh --broker-list 192.168.218.128:9092 --topic test 4.创建消费者
bin/kafka-console-consumer.sh --bootstrap-server 192.168.218.128:9092 --topic test --from-beginning ## 创建topic(4个分区,2个副本)
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 2 --partitions 4 --topic test ### kafka版本 >= 2.2
bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test ## 分区扩容
### kafka版本 < 2.2
bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic topic1 --partitions 2 ### kafka版本 >= 2.2
bin/kafka-topics.sh --bootstrap-server broker_host:port --alter --topic topic1 --partitions 2 ## 删除topic
bin/kafka-topics.sh --zookeeper localhost:2181 --delete --topic test
最新文章
- Unity Animator动画状态机 深入理解(二)IK控制
- CCF 节日
- Spring AOP报错处理 Can not set field to $Proxy 在spring中使用事物或AOP遇到的错误
- Xamarin 示例Standard Controls报错:xamarin Failed to compile interface file. See Build Output for details
- Ajax客户登陆验证
- nginx模块开发获取post参数
- Flask web开发 处理POST请求(登录案例)
- 关于vs2005 __RPC__out __RPC__in 没有定义编译错误
- 《5》CentOS7.0+OpenStack+kvm云平台的部署—组态Horizon
- 多元线性回归----Java简单实现
- Android常用布局、文件存储与权限、XML
- 厉害—Ansible管理windows集群
- 用javascript写原生ajax(笔记)
- 2018年6月,最新php工程师面试总结
- 封装input 逐渐,且input插件必须带有默认值。
- virtual 函数只有在用指针或引用的方式访问,才会导致多态。
- Libgdx学习记录28——创建Desktop程序
- Laravel API 限速异常 HTTPException Too Many Attemps
- Linux平台 获取程序依赖文件
- 网页请求get方式