Kafka Connect和Kafka Streams提交间隔之间有关系吗?

问题描述 投票:0回答:1

比方说,我们有一个Kafka Sink Connector,从一个主题中填充数据库 TopicA,

而一个Kafka流App推送更新到该。TopicA 主题。

我想知道如果。

  • 由Sink连接器更新到数据库中的数据,以及:

  • 执行这些更新的时刻

是否受Kafka Streams App提交间隔的影响,如果是,如何影响?

apache-kafka apache-kafka-streams apache-kafka-connect
1个回答
2
投票
  • Kafka Stream App(是一个Kafka生产者)。和消费者 )
  • Kafka水槽连接器(只是一个Kafka消费者)

Kafka生产者对Kafka消费者的提交间隔完全没有影响。你只需要注意Kafka生产者的速度不能比消费者快,以避免消费者群体的滞后。消费者速度慢了,就会有数据丢失的机会。


1
投票

我想说的是,它们确实是相关的。

如果Streams生产者线程提交的频率更高,那么数据到达主题的速度更快,因此Connect Sink会更快的拉取数据,最终调用更多的对数据库的查询。反之则吞吐量更低。

不过,每个组件都是可以单独调整的。

© www.soinside.com 2019 - 2024. All rights reserved.