一、错误报的错:ERRORFatalerrorduringKafkaServerstartup.Preparetoshutdown(kafka.server.KafkaServer)kafka.common.InconsistentBrokerIdException:Configuredbroker.id0doesn’tmatchstoredbroker.idSome(1)inmeta.properties.Ifyoumovedyourdata,makesureyourconfiguredbroker.idmatches.Ifyouintendtocreateanewbroker,yousho
一、错误报的错:ERRORFatalerrorduringKafkaServerstartup.Preparetoshutdown(kafka.server.KafkaServer)kafka.common.InconsistentBrokerIdException:Configuredbroker.id0doesn’tmatchstoredbroker.idSome(1)inmeta.properties.Ifyoumovedyourdata,makesureyourconfiguredbroker.idmatches.Ifyouintendtocreateanewbroker,yousho
测试告诉说kafka的topic列表里面新加入了一个topic,然后就不消费数据了;自己验证了一下,确实这样,如果去掉新的topic,数据就可以正常消费;然后我查看定义发现,topicA是1个分区;topicB是两个分区;topicNew是12分区;1、难道分区不一样导致的;然后否决了这个项目,因为消费总共使用了4个线程,在日志里面,总共四条,说明:四个线程消费topic的情况,对应的每个topic的分区号,所以没问题catinfo.log|grep'Settingnewly' 2、认真看topic的定义发现,明显是没有这样的leader的。 然后就删掉(删干净,zookeeper数据),重建
测试告诉说kafka的topic列表里面新加入了一个topic,然后就不消费数据了;自己验证了一下,确实这样,如果去掉新的topic,数据就可以正常消费;然后我查看定义发现,topicA是1个分区;topicB是两个分区;topicNew是12分区;1、难道分区不一样导致的;然后否决了这个项目,因为消费总共使用了4个线程,在日志里面,总共四条,说明:四个线程消费topic的情况,对应的每个topic的分区号,所以没问题catinfo.log|grep'Settingnewly' 2、认真看topic的定义发现,明显是没有这样的leader的。 然后就删掉(删干净,zookeeper数据),重建
1测试环境加了一个节点, 后台日志突然出现大量异常,但新建的topic还能正常运行 1.1[2021-10-2923:59:59,840]ERROR[ReplicaFetcherThread-0-33],Errorforpartition[585cd97cab31fb583f7338f2,10]tobroker33:org.apache.kafka.common.errors.UnknownServerException:Theserverexperiencedanunexpectederrorwhenprocessingtherequest(kafka.server.ReplicaFetch
参考资料:官网官方文档英文版官方文档中文版官方文档中英文对照版参考视频1(最全面最好的视频)参考视频2(这个视频真的很差,但是被骗了1W大洋)视频学习资料及个人笔记
一、Broker相关配置#brokerID,集群模式下该ID必须唯一,且永恒不变。每启动一个KafkaServer加入Kafka集群,该id必须且只能+1,否则会报错id不在指定范围之内broker.id=0#kafkaServer端启动端口,如果是同一台机器启动多个KafkaServer,则需要改此端口号。注意:如果这里的localhost不写明IP(PLAINTEXT://:9092),则默认使用内网IP,例:192.168.2.61listeners=PLAINTEXT://localhost:9092#kafka的消息存储文件。最少使用原则,当一个分区放在多台服务器或者多个路径下时,哪
kafka常用命令查看所有topic./kafka-topics.sh--zookeeper10.1.10.163:2181--list查看kafka中指定topic的详情./kafka-topics.sh--zookeeper10.1.10.163:2181--topicai_jl_analytic--describe查看消费者consumer的group列表./kafka-consumer-groups.sh--bootstrap-server10.1.10.163:9092--list创建topic./kafka-topics.sh--create--zookeeper10.1.10.1
【Kafka】Java实现数据的生产和消费Kafka介绍Kafka是由LinkedIn公司开发的,它是一个分布式的,支持多分区、多副本,基于Zookeeper的分布式消息流平台,它同时也是一款开源的基于发布订阅模式的消息引擎系统。Kafka术语Broker:消息中间件处理节点,一个Kafka节点就是一个Broker,一个或者多个Broker可以组成一个Kafka集群;Topic:每条发布到Kafka集群的消息都有一个类别,这个类别被称为Topic。(物理上不同Topic的消息分开存储,逻辑上一个Topic的消息虽然保存于一个或多个broker上但用户只需指定消息的Topic即可生产或消费数据而
【Kafka】Java实现数据的生产和消费Kafka介绍Kafka是由LinkedIn公司开发的,它是一个分布式的,支持多分区、多副本,基于Zookeeper的分布式消息流平台,它同时也是一款开源的基于发布订阅模式的消息引擎系统。Kafka术语Broker:消息中间件处理节点,一个Kafka节点就是一个Broker,一个或者多个Broker可以组成一个Kafka集群;Topic:每条发布到Kafka集群的消息都有一个类别,这个类别被称为Topic。(物理上不同Topic的消息分开存储,逻辑上一个Topic的消息虽然保存于一个或多个broker上但用户只需指定消息的Topic即可生产或消费数据而