flink-streaming 相关问题

Apache Flink是一个用于可扩展批处理和流数据处理的开源平台。 Flink在一个系统中支持批量和流分析。分析程序可以用Java和Scala中简洁优雅的API编写。

Flink 标记源迟到事件

我们正在构建一个 Flink 应用程序,它使用来自不同 Kafka 主题的事件。此应用程序在源上使用有界无序水印策略。在正常执行期间,一切都按 exp 工作...

回答 1 投票 0

当我使用FileSink从kafka源保存数据时,文件无法从inprogress状态转换为finished状态

当我使用FileSink从kafka源保存数据时,文件无法从inprogress状态转换为finished状态,但是如果我用随机生成的流替换数据源...

回答 1 投票 0

为什么 flink UI 没有显示正确的数字?

我正在运行一个 flink 作业,它需要两个数据源并将它们连接起来。 连接的输出是一个数据流。但如果连接失败,我也会发出一个侧面输出。现在我从

回答 1 投票 0

如果我在将某个操作符保持在状态一段时间后发出一个事件,如果它超过了水印,下游操作符会接受它吗?

我有一个由两个来源组成的 flink 作业。 两个源通过连接键关闭,并且处理函数连接两个流。有时数据可能会延迟 15 分钟。所以我持有...

回答 1 投票 0

Apache Flink 中 RoundRobin 分区的实现

嗨,我想在 ApacheFlink 中为运算符实现 RoundRobin 实现,在继续之前我想先说一下,我很清楚这已经在 Flink 中实现了,但是......

回答 1 投票 0

使用windowAll()实现自定义分区

我正在尝试在 apache flink 中使用窗口实现自定义分区。目前我有以下内容: 数据流> split = 运算符聚合流 ...

回答 1 投票 0

如果表有更新插入,带有 Iceberg 快照流的 Flink SQL 不会做出反应

我定义了一些 Iceberg v2 表和一个 Flink 作业,该作业在转换为另一个 Iceberg 表之前以流式传输方式读取它们。 如果源表是基本的,那么订阅它们......

回答 1 投票 0

确定Flink中特定算子的位置

假设我有一组具有不同功能(即不同的CPU、内存等)的机器。有什么方法可以确定要运行的特定操作员(或任务)的位置?难道是……

回答 2 投票 0

Flink - kafka 连接器 OAUTHBEARER 类加载器问题

我尝试使用sasl机制(OAUTHBEARER)配置kafka身份验证(使用flink 1.9.2,kafka-client 2.2.0)。 当使用带有 SASL 身份验证的 Flink 时,出现以下异常。 卡夫卡是

回答 3 投票 0

无法在 flatMap() 函数内创建数据流

我想在 flatMap 函数中创建一个 DataStream。但是,当我运行 dataStream.print() 时,它什么也没显示。这是我的代码: 公开课测试{ 静态 StreamExecutionEnvironment env =

回答 1 投票 0

如何理解Flink的exactly-once和at-least-once语义

我是 Flink 的新手,目前正在探索框架中的容错。我知道 Flink 提供了 Exactly-Once 和 At-Least-Once 语义来确保容错。 读完这篇文章后

回答 1 投票 0

Iceberg 的 FlinkSink 不会更新流写入中的元数据文件

我一直在尝试使用Iceberg的FlinkSink来消费数据并写入sink。 我成功地从 kinesis 获取数据,并且我看到数据正在写入适当的

回答 1 投票 0

“streaming”=“true”的 Flink SQL 选项不适用于 JOIN

我正在编写一个 Flink 作业,它将从 Iceberg 读取数据,执行连接,然后写入另一个 Iceberg 表。我的 SQL 可以工作,但只运行一次然后完成。阅读文档...

回答 1 投票 0

Apache Flink 处理函数错误

我尝试使用java api测试Apache Flink的简单处理功能。 IDE:Visual Studio 代码 1.87.1 弗林克:1.18.1 CountWithTimestamp.java 公共类 CountWithTimestamp { 公共字符串密钥...

回答 1 投票 0

Flink 中的热键处理

我有一个事件流,我想计算其属性如何在客户 ID 级别随时间变化。示例事件类似于 {“customer_ID”: 1, “property_1”: “val_1”, “property_2”: ...

回答 1 投票 0

如何让 Flink Operator State TTL 发挥作用

我无法让操作员状态 TTL 正常工作。我已将 TTL 设置为 5 分钟,因此在该时间之后,我希望状态被清除。当我注意到由于 TTL 而状态为空时...

回答 1 投票 0

如何在apache flink作业中传递--add-opens JVM选项

我有一个用 Java 17 编写的 Apache Flink,flink 版本为 1.18.1。 当我将作业提交到集群时, 它给了我以下错误 java.lang.RuntimeException:设置cu时发生异常...

回答 1 投票 0

基于key列表触发apache flink的ProcessWindow函数

我有一个奇怪的需求,我正在使用 Apache Flink 处理 Kafka 源的数据流。我想要进行有状态处理并保留无线之间所有已处理键的全局状态...

回答 1 投票 0

Apache Fink 和 Iceberg:无法处理数百种 RowData 类型

我有一个 Flink 应用程序,可以读取任意 AVRO 数据,将其映射到 RowData,并使用多个 FlinkSink 实例将数据写入 ICEBERG 表。我所说的任意数据是指我有 100 种类型...

回答 1 投票 0

在flink应用模式app中指定job id

Flink新手请教一个操作问题。 我有一个在应用程序模式下运行的简单 flink 应用程序:它从无界的 kafka 源消耗数据,运行 2 个带有一些简单逻辑和 st 的运算符...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.