如何在Kafka监听器中安排15分钟的poll()间隔?
我的示例代码中5分钟的轮询间隔工作正常,但我有一个15分钟的调度轮询()间隔的要求,不同的是,我的轮询间隔是15分钟。
public class KafkaConsumerConfig {
private final String SERVERS = "localhost:9092";
@Bean
public Map<String, Object> consumerConfigs() {
Map<String, Object> props = new HashMap<>();
Map<String, Object> props = new HashMap<>();
props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, SERVERS);
props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class);
props.put(ConsumerConfig.GROUP_ID_CONFIG, "test-consumer-group");
props.put(ConsumerConfig.MAX_POLL_RECORDS_CONFIG, "5000");
props.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, "earliest");
props.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 900000);
return props;
}
@Bean
public ConsumerFactory<String, String> consumerFactory() {
return new DefaultKafkaConsumerFactory<>(consumerConfigs());
}
@Bean
public ConcurrentKafkaListenerContainerFactory<String, String> kafkaListenerContainerFactory() {
ConcurrentKafkaListenerContainerFactory<String, String> factory = new ConcurrentKafkaListenerContainerFactory<>();
factory.setConsumerFactory(consumerFactory());
factory.setBatchListener(true);
factory.getContainerProperties().setIdleEventInterval(60000l);
return factory;
}
@KafkaListener(id = "batch-listener", topics = TOPIC_01, group =
"test-consumer-group",
containerFactory = "kafkaListenerContainerFactory")//groupId = "test-consumer-group",
public void messageListener(List<String> messages) {
log.info("Recieved {} messages", messages.size());
messages.forEach(message ->
log.info("MessageListener recieved message : {}", message)); }
}
你的要求不清楚
props.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 300000);
如果你需要这么多时间来处理10条记录,就把它改为900000。
如果你的意思是你只想每15分钟取一次记录,那么就使用
props.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 1000000);
和
factory.getContainerProperties().setIdleBetweenPolls(900000);
是的,props.put(ConsumerConfig.MAX_POLL_INTERVAL_MS_CONFIG, 1000000); factory.getContainerProperties().setIdleBetweenPolls(900000)。
以批处理的方式对消息进行Poll(),工作正常。
谢谢 @Gary