Kafka监听器:轮询间隔:如何用15分钟的间隔来安排kafka消费者轮询()。

问题描述 投票:0回答:1

如何在Kafka监听器中安排15分钟的poll()间隔?

我的示例代码中5分钟的轮询间隔工作正常,但我有一个15分钟的调度轮询()间隔的要求,不同的是,我的轮询间隔是15分钟。

public class KafkaConsumerConfig {
    private final String SERVERS = "localhost:9092";

    @Bean
    public Map<String, Object> consumerConfigs() {
        Map<String, Object> props = new HashMap<>();
        Map<String, Object> props = new HashMap<>();
        props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, SERVERS);
        props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
        props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);

        props.put(ConsumerConfig.GROUP_ID_CONFIG, "test-consumer-group");
        props.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, "5000");
        props.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, "earliest");
        props.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 900000); 
                return props;
    }

    @Bean
    public ConsumerFactory<String, String> consumerFactory() {
        return new DefaultKafkaConsumerFactory<>(consumerConfigs());
    }
    @Bean
    public ConcurrentKafkaListenerContainerFactory<String, String> kafkaListenerContainerFactory() {
        ConcurrentKafkaListenerContainerFactory<String, String> factory = new ConcurrentKafkaListenerContainerFactory<>();
        factory.setConsumerFactory(consumerFactory());
        factory.setBatchListener(true);
        factory.getContainerProperties().setIdleEventInterval(60000l); 
    return factory;
    }

 @KafkaListener(id = "batch-listener", topics = TOPIC_01, group =
       "test-consumer-group", 
              containerFactory = "kafkaListenerContainerFactory")//groupId = "test-consumer-group", 
         public void messageListener(List<String> messages) {
          log.info("Recieved {} messages", messages.size());
             messages.forEach(message ->
                     log.info("MessageListener recieved message : {}", message));   }

}
apache-kafka kafka-consumer-api apache-kafka-streams spring-kafka
1个回答
0
投票

你的要求不清楚

props.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 300000); 

如果你需要这么多时间来处理10条记录,就把它改为900000。

如果你的意思是你只想每15分钟取一次记录,那么就使用

props.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 1000000); 

factory.getContainerProperties().setIdleBetweenPolls(900000);

0
投票

是的,props.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 1000000); factory.getContainerProperties().setIdleBetweenPolls(900000)。

以批处理的方式对消息进行Poll(),工作正常。

谢谢 @Gary

© www.soinside.com 2019 - 2024. All rights reserved.