本篇内容介绍了“使用kafka-console-consumer.sh不停报WARN如何解决”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!
首先确认你的服务器你所需要的所有端口都打开了!
./kafka-console-consumer.sh --bootstrap-server 宿主机IP:9092 --topic 主题名 --from-beginning
端口都打开的情况使用以上命令还继续各种报WARN请检查kafka相关配置
listeners=PLAINTEXT://*********:9092
以上*处配置IP应为宿主机IP地址一致
./kafka-console-consumer.sh --bootstrap-server *********:9092 --topic 主题名 --from-beginning
我是这个原因,可以从报错信息中得知解析地址中的broker失败了修改为宿主机IP得到解决
WARN [Consumer clientId=consumer-console-consumer-21595-1, groupId=console-consumer-21595] Connection to node -1 (localhost/127.0.0.1:9092) could not be established. Broker may not be available. (org.apache.kafka.clients.NetworkClient)
使用Ambari搭建的kafka集群,在使用kafka-console-producer.sh的时候,指定--broker-list的值需要从server.properties中查看listeners=PLAINTEXT://的值。
同理,使用kafka-console-consumer.sh的时候,指定--bootstrap-server也需要从server.properties中查看listeners=PLAINTEXT://的值。
所以,以上已经是确保了配置没有问题的情况下,出现了kafka使用kafka-console-consumer.sh没有消费消息。
使用kafka-console-consumer.sh没有消费消息
(1)在无意中查看了kafka的server.log日志,发现一直在报如下错误
ERROR [KafkaApi-1001] Number of alive brokers '2' does not meet the required replication factor '3' for the offsets topic (configured via 'offsets.topic.replication.factor'). This error can be ignored if the cluster is starting up and not all brokers are up yet. (kafka.server.KafkaApis)
(2)分析了下局面意思,大概就是broker的数量为2,但是server.properties配置的offsets.topic.replication.factor的值为3。
看到这里我大概有两个解决方案
一、添加broker的数目
二、修改server.properties中offsets.topic.replication.factor的值,改成2【Ambari中该值在kafka-broker中修改】
“使用kafka-console-consumer.sh不停报WARN如何解决”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注亿速云网站,小编将为大家输出更多高质量的实用文章!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。