当消费者多于分区时,Kafka 消费者分区重新平衡

问题描述 投票:0回答:1

假设最初我们有一个包含 3 个分区的主题和一个包含 3 个消费者的消费者组,这些消费者从该主题进行消费。如果我们在消费者组中再添加一个消费者,是否会发生分区重新平衡?我知道其中一个消费者将处于非活动状态,因为只有 3 个分区,但我不确定重新平衡是否会发生。

apache-kafka spring-kafka kafka-consumer-api
1个回答
0
投票

在 Apache Kafka 中,消费者组旨在允许一组机器或进程协调来自一个或多个主题的消息的消费。当您有一个具有一定数量分区的主题时,这些分区会分布在消费者组中的消费者之间以平衡负载。

当您向现有消费者组添加另一个消费者时,Kafka 确实会触发所谓的“重新平衡”。这个重新平衡过程是 Kafka 在消费者组中的可用消费者之间重新分配分区的一种方式。目标是确保消息消费负载均匀分布在所有消费者之间。

在 Apache Kafka 中,消费者组旨在允许一组机器或进程协调来自一个或多个主题的消息的消费。当您有一个具有一定数量分区的主题时,这些分区会分布在消费者组中的消费者之间以平衡负载。

当您向现有消费者组添加另一个消费者时,Kafka 确实会触发所谓的“重新平衡”。这个重新平衡过程是 Kafka 在消费者组中的可用消费者之间重新分配分区的一种方式。目标是确保消息消费负载均匀分布在所有消费者之间。

当您将额外的消费者添加到具有现有数量的消费者和分区的消费者组时,会发生以下情况:

  1. 新消费者加入组,导致组成员身份发生变化。 Kafka 检测到此变化并启动重新平衡操作。

  2. 重新平衡期间:

    a) 组中的所有消费者停止消费消息。

    b) Kafka 在组中的所有消费者之间重新分配分区,包括新消费者。

    c) 然后,消费者从新分配的分区中恢复消费消息。

  3. 重新平衡后:

    a) 每个消费者将从一个或多个分区进行消费,具体取决于分区和消费者的总数。

    b) 在您拥有 3 个分区和 4 个消费者的特定情况下,一个消费者最终将没有分配并且将处于空闲状态,因为没有足够的分区供所有消费者使用。但是,它仍然是消费者组的一部分,准备好在其他消费者之一出现故障或将来向主题添加更多分区时接管分区的消费。

重新平衡确保消息消费工作负载均匀分布在消费者组中,并且系统可以随着消费者的添加或删除而进行调整。这是一个由 Kafka 管理的自动流程,用于在消费者组内维持有效的负载平衡和容错能力。这个过程对于在 Kafka 集群中有效地扩展和管理消费者至关重要。

© www.soinside.com 2019 - 2024. All rights reserved.