我有一个带有32个分区的主题,所有这些分区中都有数据。
但是当我开始使用多个使用者时,只有4个使用者可以从主题中获取数据。
主题的元数据:
这里是监视仪表板:
这里是最终的统计数据:
complementary使用者配置:
import "gopkg.in/confluentinc/confluent-kafka-go.v1/kafka"
config := kafka.ConfigMap{
"broker.address.family": "v4", // Avoid connecting to IPv6 brokers
"bootstrap.servers": addr,
"group.id": groupID,
"session.timeout.ms": 6000,
"auto.offset.reset": "earliest",
}
请确保多个使用者具有唯一的客户端ID。特别是如果使用者是同一OS进程的一部分。
本质上,我们需要确保所有使用者都具有相同的属性group.id
值
标识此消费者所属的消费者组的唯一字符串。如果使用者使用subscribe(topic)
或基于Kafka的偏移量管理策略来使用组管理功能,则需要此属性。