最近搭建了一个 kafka + zookeeper 集群用于记录日志
kafka 配置:
port=19092
host.name=192.168.70.221
zookeeper.connect=192.168.70.224:12181,192.168.70.225:12181,192.168.70.226:12181
zookeeper 配置:
clientPort=12181
server.1=192.168.70.224:12388:13888
server.2=192.168.70.225:12388:13888
server.3=192.168.70.226:12388:13888
以上配置运行都没问题
为了能够直观地查看 kafka 的数据使用了 KafkaOffsetMonitor
KafkaOffsetMonitor 部署在 192.168.70.224 上:
java -cp KafkaOffsetMonitor-assembly-0.2.1.jar \
com.quantifind.kafka.offsetapp.OffsetGetterWeb \
--zk 192.168.70.224:12181,192.168.70.225:12181,192.168.70.226:12181 \
--port 8080 \
--refresh 10.seconds \
--retain 2.days
遇到的问题是:按理说 KafkaOffsetMonitor 的 List of Consumer Groups 项应该展示所有活动的消费者,但它只展示了通过console-consumer(在70.221的shell里使用 bin/console-consumer) 创建的消费者,而没有展示使用kafka-python客户端创建的消费者
kafka-python 客户端代码:
consumer = KafkaConsumer(
bootstrap_servers = '192.168.70.221:19092',
enable_auto_commit = True
)
consumer.subscribe([topic])
for msg in consumer:
print msg
一直在运行,可以打印出记录并消费掉
但在 KafkaOffsetMonitor 没有展示这个消费者,Active Topics Consumers里也并没有这个消费者的记录
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.