Kafka 使用问题

2016-04-19 15:50:19 +08:00
 ayiis

最近搭建了一个 kafka + zookeeper 集群用于记录日志

kafka 配置:

port=19092
host.name=192.168.70.221
zookeeper.connect=192.168.70.224:12181,192.168.70.225:12181,192.168.70.226:12181

zookeeper 配置:

clientPort=12181
server.1=192.168.70.224:12388:13888
server.2=192.168.70.225:12388:13888
server.3=192.168.70.226:12388:13888

以上配置运行都没问题

为了能够直观地查看 kafka 的数据使用了 KafkaOffsetMonitor

KafkaOffsetMonitor 部署在 192.168.70.224 上:

java -cp KafkaOffsetMonitor-assembly-0.2.1.jar \
com.quantifind.kafka.offsetapp.OffsetGetterWeb \
--zk 192.168.70.224:12181,192.168.70.225:12181,192.168.70.226:12181 \
--port 8080 \
--refresh 10.seconds \
--retain 2.days

遇到的问题是:按理说 KafkaOffsetMonitor 的 List of Consumer Groups 项应该展示所有活动的消费者,但它只展示了通过console-consumer(在70.221的shell里使用 bin/console-consumer) 创建的消费者,而没有展示使用kafka-python客户端创建的消费者

kafka-python 客户端代码:

consumer = KafkaConsumer(
	bootstrap_servers = '192.168.70.221:19092',
	enable_auto_commit = True
)
consumer.subscribe([topic])
for msg in consumer:
	print msg

一直在运行,可以打印出记录并消费掉

但在 KafkaOffsetMonitor 没有展示这个消费者,Active Topics Consumers里也并没有这个消费者的记录

2609 次点击
所在节点    Kafka
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/272275

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX