清空kafka_kafka的topic

清空kafka_kafka的topic1.问题描述使用kafka-topics–delete命令删除topic时并没有真正的删除,而是把topic标记为:“markedfordeletion”,导致重新创建相同名称的Topic时报错“alreadyexists”。2.问题复现1.登录Kafka集群所在的服务器,创建一个test的topic[root@cdh1~]#kafka-topics–create…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

1.问题描述

使用kafka-topics –delete命令删除topic时并没有真正的删除,而是把topic标记为:“marked for deletion”,导致重新创建相同名称的Topic时报错“already exists”。

2.问题复现

1.登录Kafka集群所在的服务器,创建一个test的topic

[root@cdh1 ~]# kafka-topics –create –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –replication-factor 1 –partitions 1 –topic test

0022-如何永久删除Kafka的Topic

2.查看新创建的topic

[root@cdh1 ~]# kafka-topics –list –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181

0022-如何永久删除Kafka的Topic

3.通过如下命令删除新建的topic

[root@cdh1 ~]# kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

此处显示“Topic test is marked for deletion”

4.尝试重新创建一个test的Topic

[root@cdh1 ~]# kafka-topics –create –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –replication-factor 1 –partitions 1 –topic test

0022-如何永久删除Kafka的Topic

提示该Topic已存在,说明在第3步操作的删除并没有真正的将Topic删除。

3.问题原因

默认情况下Kafka是禁用了删除Topic的操作,所以在执行Topic删除的时候只是将删除的Topic标记为“marked for deletion”状态。可以通过修改Kafka服务的配置参数启用。

4.解决方法

4.1方法1

在kafka服务配置delete.topic.enable=false的情况下,如果需要永久删除topic则需要做如下操作:

  • 通过kafka命令删除相应的topic
  • 在zookeeper中删除相应的topic
  • 在topic所在的broker节点上删除topic的log数据

操作如下:

1.查看topic的描述信息,命令如下

kafka-topics –describe –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

上图标注部分为topic对应的数据存放节点

2.通过kafka命令删除,命令如下:

kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

3.通过zookeeper客户端删除topic,命令如下

zookeeper-client -server ip-172-31-1-175.ap-southeast-1.compute.internal:2181

ls /brokers/topics

rmr /brokers/topics/test

注:标红部分为topic的名称

0022-如何永久删除Kafka的Topic

4.登录到第1步中列出的对应节点的topic的log数据目录,此处我们Kafka的log.dirs目录配置为/var/local/kakfa,执行命令

[ec2-user@ip-172-31-9-186 data]$ sudo rm -rf test-0/

0022-如何永久删除Kafka的Topic

5.验证是否生效

创建一个名称为“test”的Topic,可以正常创建

0022-如何永久删除Kafka的Topic

注意:此处将topic为test的日志目录(/var/local/kafka/test-0)删除后,新创建的topic为test的日志目录不存在,重启Kafka服务后正常,目录能正常显示。

4.2方法2

在Kafka服务已配置delete.topic.enable=true的情况下,永久删除topic需要做如下操作:

  • 使用kafka命令删除topic

操作如下:

  1. 删除前数据查看:

kafka-topics –describe –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

各个数据节点的信息:

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

Zookeeper信息:

0022-如何永久删除Kafka的Topic

2.通过kafka命令删除需要删除的topic,命令如下

kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

3.查看Zookeeper客户端topic信息

[zk: ip-172-31-1-175.ap-southeast-1.compute.internal:2181(CONNECTED) 9] ls /brokers/topics

0022-如何永久删除Kafka的Topic

4.查看brober节点上topic的日志数据

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

5.删除后成功后,验证是否能创建名称为test的Topic

0022-如何永久删除Kafka的Topic

注意:

如果Kafka服务配置了delete.topic.enable=true,直接通过命令行删除,未能删除Topic则可以通过zookeeper-client来进行删除。

如果Kafka服务未配置delete.topic.enable=true,直接通过delete命令删除topic,删除时只会将topic标记为“marked for deletion”,然后通过zookeeper-client进行删除是不会删除topic的data.log数据目录的,需要将相应的broker服务器上的data.log目录下相应的topic目录删除,data.log目录获取,可以通过CM界面查看:

0022-如何永久删除Kafka的Topic

建议:Kafka服务开启delete.topic.enable=true,开启方式如下:

0022-如何永久删除Kafka的Topic

开启后需要重启Kafka服务。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/183906.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

  • 苹果4代电池容量_iPhone4s电池

    苹果4代电池容量_iPhone4s电池苹果4代电池不耐用iphone论坛!入手IPHONE必看!2011年05月14日  苹果4代电池不耐用iphone论坛!入手IPHONE必看!发表于2011年04月30日由adminiphone论坛!入手iphone必看!  1./private/var/mobile新刷完的机器,要在这个文件夹下建一个documents的目次,许多程序都要用到。  2./p…

  • SSM-Mybatis(4)「建议收藏」

    SSM-Mybatis(4)「建议收藏」缓存什么是缓存[Cache]存在内存中的临时数据将用户经常查询的数据放在缓存(内存)中,用户去查询数据的时候就不用从磁盘上(关系型数据库数据文件)查询,从缓存中查询,从而提高查询效率,解决了高并发系统的性能问题。为什么使用缓存减少和数据库的数据交换次数,较少系统开销,提高系统效率什么样的数据库能使用缓存经常查询并且不经常改变的数据Mybatis缓存MyBatis 内置了一个强大的事务性查询缓存机制,它可以非常方便地配置和定制。默认情况下,只启用了本地的会话缓存,它仅

  • pip更新方法

    pip更新方法pip更新方法如下:方法一:pycharm中的Terminal中更新,使用如下命令:python-mpipinstall–upgradepip方法二:删除原pip文件,重新安装例如pip文件在如下文件夹中C:\Python\Python373\Lib\site-packages我们能够知道pip20.1.1所在路径,找到它,然后删掉pip-20.1.1.dist-info文件夹。设置如下图,已不见pip的踪影。提示,packagi…

  • PyCharm激活码永久有效PyCharm2019.1.4激活码教程-持续更新,一步到位

    PyCharm激活码永久有效PyCharm2019.1.4激活码教程-持续更新,一步到位PyCharm激活码永久有效2019.1.4激活码教程-Windows版永久激活-持续更新,Idea激活码2019.1.4成功激活

  • js 数组splice_splice会影响原数组吗

    js 数组splice_splice会影响原数组吗今天用到了数组的删除,分别使用了splice和delete方法,记录一下,方便下次查找。原数组是一个关联数组,如vartest=[];test[1]={name:’1′,age:1};test[2]={name:’2′,age:2};test[4]={name:’3′,age:3};console.log(test)长度为5的关联数组,现在开始删除。1.splice方法test.splice(2

  • 硬盘加速和磁盘碎片整理软件

    硬盘加速和磁盘碎片整理软件2018/12/12PrimoCache(推荐):1、PrimoCache使用方法自行搜索,官网也有实例。2、PrimoCache的作用类似于傲腾,但是没有傲腾只能加速一个机械硬盘的缺点,PrimoCache可以同时加速多个机械硬盘。3、如果你有多余的内存,你可以开一级缓存,即使你没有固态硬盘也可以体验机械硬盘在开机后的加速。4、如果你有多余的内存和固态硬盘空间,你可以开一级缓…

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号