apache-flink 相关问题

Apache Flink是一个用于可扩展批处理和流数据处理的开源平台。 Flink在一个系统中支持批量和流分析。分析程序可以用Java和Scala中简洁优雅的API编写。

发现“hudi”不受支持的选项

我正在 Yarn 集群上使用 Flink SQL 客户端测试 Apache Hudi。当我尝试创建 Hudi 目录(如所述)时,我遇到一个错误,告诉我 hive.conf.dir 和模式选项不是

回答 1 投票 0

有没有办法在flink中存储和检索窗口的状态

目前,我们有一个按预期工作的键控 Window flink 作业。事件进入窗口 - 一些处理是在reduce函数中完成的 - 触发器导致输出到接收器。 现在我们有一个sc...

回答 1 投票 0

根据官方leanring指南,关于flink 1.17.2中的RichCoFlatMapFunction的错误

etl 连接的流 我只是尝试了flink官方指南书提供的代码。 公共类控制流{ 公共静态无效主(字符串[] args)抛出异常{

回答 1 投票 0

对flink窗口状态感到困惑

我目前对窗口和状态感到困惑。假设我有一个程序,每分钟统计用户访问数据,需要在每个窗口中做sum统计。假设此时我配置...

回答 1 投票 0

Flink 标记源迟到事件

我们正在构建一个 Flink 应用程序,它使用来自不同 Kafka 主题的事件。此应用程序在源上使用有界无序水印策略。在正常执行期间,一切都按 exp 工作...

回答 1 投票 0

如何使用 REST API 停止 Flink 作业

我正在尝试将作业从 Jenkins 部署到 Flink。到目前为止,我已经弄清楚如何提交在构建作业中创建的 jar 文件。现在我想找到任何与旧版本一起运行的 Flink 作业......

回答 3 投票 0

flink 1.14升级到1.18时Zookeeper超时

我正在将 flink 从 1.14 升级到 1.18 我在 flink-conf.yaml 中有 flink HA Zookeper flink-conf.yaml 高可用性.类型:zookeeper high-availability.storageDir: file:///opt/flink/state_dir/ha/ 高-

回答 1 投票 0

当我使用FileSink从kafka源保存数据时,文件无法从inprogress状态转换为finished状态

当我使用FileSink从kafka源保存数据时,文件无法从inprogress状态转换为finished状态,但是如果我用随机生成的流替换数据源...

回答 1 投票 0

为什么 flink UI 没有显示正确的数字?

我正在运行一个 flink 作业,它需要两个数据源并将它们连接起来。 连接的输出是一个数据流。但如果连接失败,我也会发出一个侧面输出。现在我从

回答 1 投票 0

使用 windowAll 测试 flink 流

我一直在尝试使用窗口类型 TumblingProcessingTimeWindows 测试 apache flink 中的 windowAll 操作,但是当我尝试从接收器检索结果时,它们始终为 0。使用

回答 1 投票 0

apache flink作业使用pyflink执行错误

`开始从kafka读取数据 对不支持的类型使用 Any:typing.Sequence[~T] 回溯(最近一次调用最后一次): 文件“C: link-1.19.0-bin-scala_2.12 link-1.19.0 xamples\python\datast...

回答 1 投票 0

如果我在将某个操作符保持在状态一段时间后发出一个事件,如果它超过了水印,下游操作符会接受它吗?

我有一个由两个来源组成的 flink 作业。 两个源通过连接键关闭,并且处理函数连接两个流。有时数据可能会延迟 15 分钟。所以我持有...

回答 1 投票 0

如何从旧的外部检查点启动已取消的 Apache Flink 作业

我正在运行一个 apache Flink 流作业,它消耗来自一个 kafka 集群的事件并生成到另一个 kafka 集群。我已经将检查点外部化,以便可以恢复状态......

回答 1 投票 0

Apache Flink 中 RoundRobin 分区的实现

嗨,我想在 ApacheFlink 中为运算符实现 RoundRobin 实现,在继续之前我想先说一下,我很清楚这已经在 Flink 中实现了,但是......

回答 1 投票 0

java.lang.reflect.InaccessibleObjectException:无法使字段私有最终 java.lang.Object[] java.util.Arrays$ArrayList.a 可访问

我无法在 Visual Studio Codes maven 中访问 java pojo。 操作系统:Windows 11 JDK:开放jdk 17.0.2 maven:apache-maven 3.9.6 apache flink :1.18.1(安装在 WSL 2 ubuntu 上) 视觉工作室鳕鱼...

回答 1 投票 0

使用windowAll()实现自定义分区

我正在尝试在 apache flink 中使用窗口实现自定义分区。目前我有以下内容: 数据流> split = 运算符聚合流 ...

回答 1 投票 0

如果表有更新插入,带有 Iceberg 快照流的 Flink SQL 不会做出反应

我定义了一些 Iceberg v2 表和一个 Flink 作业,该作业在转换为另一个 Iceberg 表之前以流式传输方式读取它们。 如果源表是基本的,那么订阅它们......

回答 1 投票 0

尝试在Flink中运行pyflink Word_count.py时出现执行错误

我最近一直在尝试pyflink api,我想在datastream目录中执行给定的word_count示例,但最终出现以下错误 python3 示例/python/

回答 1 投票 0

确定Flink中特定算子的位置

假设我有一组具有不同功能(即不同的CPU、内存等)的机器。有什么方法可以确定要运行的特定操作员(或任务)的位置?难道是……

回答 2 投票 0

在类路径中找不到任何实现“org.apache.flink.table.delegation.ExecutorFactory”的工厂

我正在尝试执行 flink 的表 API 并收到以下错误: 线程“main”中的异常 org.apache.flink.table.api.ValidationException:找不到任何实现的工厂...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.