flink-streaming 相关问题

Apache Flink是一个用于可扩展批处理和流数据处理的开源平台。 Flink在一个系统中支持批量和流分析。分析程序可以用Java和Scala中简洁优雅的API编写。

Apache Flink 聚合:java.lang.OutOfMemoryError:java.lang.OutOfMemoryError:Java 堆空间

我正在 JVM 模式下运行 apache flink 作业,即以独立方式运行,没有 flink 集群。 我正在阅读 GCP pubsub 并在 1 小时的翻滚窗口中进行聚合。 当我部署...

回答 1 投票 0

使用 apache Flink 读取带键的 Kafka 记录?

我正在使用一个值+记录Kafka生产者,使用: bin/kafka-console- Producer.sh --topic test3 --property "parse.key=true" --property "key.separator=:" --bootstrap-server localhos...

回答 1 投票 0

如何在 Apache Flink 中存储几乎不变化的数据流

本质上,我有一个 Flink DataStream,它从很少更改的 Kafka 主题中读取数据。 该主题包含以下记录 用户消费者标识符 { “用户id”:1, “消费者 ID”:1 ...

回答 1 投票 0

如何注册具有嵌套字段的 Flink Table schema?

我正在努力将 DataStream 注册为 StreamingTableEnvironment 中的 Flink 表。 我使用的语法如下: StreamTableEnvironment tableEnv = StreamTableEnvironment.create(env); 表环境

回答 1 投票 0

了解 Flink Interval Joins 中大窗口的事件发射时序

间隔连接使用公共密钥连接两个流的元素,其中流 B 的元素的时间戳位于流 A 中元素的时间戳的相对时间间隔内。 我很确定...

回答 1 投票 0

Flink - 如何使用自定义标签公开指标

我希望使用自定义标签发布/公开指标,自定义标签事先未知,我们只能在运行时知道。例如,使用千分尺我们可以执行以下操作 指标。

回答 1 投票 0

如何在 Flink 流中处理来自一个 Kafka 主题的键控事件和批处理事件

我正在尝试编写一个 Flink 作业来处理来自单个 Kafka 主题的事件。事件流包含键控事件和批处理事件。键控事件代表事务并具有键 transactionId。

回答 1 投票 0

基于Flink Checkpoint的状态恢复-错过事件解决方案

我正在使用 flink 检查点来恢复我的工作状态。我使用未对齐的检查点,检查点间隔为 100 毫秒。我看到很少有事件被成功触发......

回答 1 投票 0

Flink CPU 逐渐增长,导致容器被杀死

在我们的生产集群中,我们看到 flink CPU 在 14 天内攀升的模式,导致容器被终止。 Flink 堆显示如下图所示的增长。最初的理论是CPU是贡献...

回答 1 投票 0

无法反序列化 Avro 记录:获取 ArrayIndexOutOfBoundsException

我正在尝试使用 Pyflink 从 Kafka 读取 Avro 格式 我的程序是这样的: 从 pyflink.datastream 导入 StreamExecutionEnvironment 从 pyflink.datastream.connectors.kafka 导入

回答 1 投票 0

使用 Group By 和 Window 时 Flink Pipeline 不执行

我在使用 Kafka 源部署 Flink 流应用程序时遇到问题。下面是我的代码片段: StreamExecutionEnvironment env = StreamExecutionEnvironment。

回答 1 投票 0

PyFlink 窗口聚合未触发

我有一个问题,我的窗口聚合累积了所有结果,但不返回它,并且我的结果流为空 我怀疑这与窗口触发有关,但无法弄清楚......

回答 1 投票 0

在不使用 Thread.sleep 的情况下限制 Flink 作业中的事件流动

我是 Flink 新手,我正在尝试实现一个从 Kafka 主题消费的管道,对该数据执行较小的过滤和转换,并异步写入端点。

回答 1 投票 0

使用 Flink 监控数据流的新文件目录

我目前正在编写我的第一个 Flink 应用程序,并且想要监视文件夹中的新文件。不幸的是我找不到关于这个主题的很多例子。 我找到了 readFile(fileInputFormat,

回答 1 投票 0

按事件时间对多个 Kafka 主题中的事件进行排序

我们正在尝试按我们从三个 Kafka 主题消费的事件时间对事件进行排序。每个源主题都有三个分区,我们将 Flink 并行度也设置为 3。阅读事件后...

回答 2 投票 0

无法在我的 Maven 构建中获取 org.apache.flink.formats 包

我一直在尝试通过maven构建我的apache flink项目,但由于某种原因我遇到了编译错误。值得注意的是“org.apache.flink.formats 包不存在”...

回答 1 投票 0

为什么我在flink中看不到源头的水印而看到后续的算子?

我有一个flink应用程序,我从两个kafka源读取数据并对两个流执行连接操作 我在源头设置水印策略,例如 数据流...

回答 1 投票 0

无法将 Flink SQL 作业升级到 1.18,因为 Calc 和 ChangelogNormalize 顺序发生了变化

上下文 我们在使用版本 1.15.2 的 Flink 集群中运行 Flink 作业。这些工作包括: 一个或多个 KafkaSource,我们从中创建带有主键的变更日志流。 SQL

回答 2 投票 0

java.lang.reflect.InaccessibleObjectException:模块java.base不会向未命名模块“打开java.util.concurrent.atomic”

我正在编写一个 apache flink 程序来本地运行并与 google pubsub 交互。 依赖关系 17 ...

回答 1 投票 0

Flink 键控流密钥为空

我正在尝试在 Flink 中的 KeyedStream 上执行映射操作: Stream.map(new JsonToMessageObjectMapper()) .keyBy("关键字段") .map(新的消息处理器St...

回答 3 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.