如何在Flink中跳过损坏的邮件?

问题描述 投票:0回答:1

如何跳过Flink中损坏的邮件

你有DAY:KafkaSrcConsumer> FlatMap> Window> SinkFunction

现在,如果我在运算符“KafkaSrcConsumer”中从Kafka获取corruptedMessage,我想抛出/跳过该消息,我不想将该损坏的消息转发给下一个运算符“FlatMap”

我们如何在Apache Flink中实现这一目标?

(注意:从KafkaSrcConsumer抛出异常将重新启动flink作业,我想避免这种情况,因为我只想跳过消息并转到下一条消息)

apache-flink
1个回答
3
投票

如果deserialize(...)方法返回null,则Flink Kafka使用者将以静默方式跳过已损坏的消息。这被描述为in the documentation

© www.soinside.com 2019 - 2024. All rights reserved.