比方说,我们有一个Kafka Sink Connector,从一个主题中填充数据库 TopicA
,
而一个Kafka流App推送更新到该。TopicA
主题。
我想知道如果。
由Sink连接器更新到数据库中的数据,以及:
执行这些更新的时刻
是否受Kafka Streams App提交间隔的影响,如果是,如何影响?
Kafka生产者对Kafka消费者的提交间隔完全没有影响。你只需要注意Kafka生产者的速度不能比消费者快,以避免消费者群体的滞后。消费者速度慢了,就会有数据丢失的机会。
我想说的是,它们确实是相关的。
如果Streams生产者线程提交的频率更高,那么数据到达主题的速度更快,因此Connect Sink会更快的拉取数据,最终调用更多的对数据库的查询。反之则吞吐量更低。
不过,每个组件都是可以单独调整的。