avro 相关问题

Apache Avro是一个主要用于Apache Hadoop的数据序列化框架。

如何读取/更新嵌套 Avro 通用记录中的值?

我正在尝试使用 Apache Beam Pardo 访问 Avro Generic Record 中的嵌套字段。 我可以进入第一层,但我不知道如何访问更进一步的字段。 因为如果你...

回答 1 投票 0

在将 returns(TypeInformation) 应用到我的 avro 通用 DataStreamSource 之后,它什么都不打印,但没有错误

嗨 flink 用户/贡献者, 我在这里发帖是为了看看是否有任何更聪明的想法。 我正在使用 Flink 以 Avro Generic Records 格式使用 kafka 主题,使用通用记录反序列化器和

回答 0 投票 0

序列化 Apache Avro 通用记录使用模式到文件

我有一个代码,我试图将通用记录列表序列化为字节数组并最终将其写入文件,但得到一个 UnresolvedUnionException 下面列出的是源代码 公开

回答 0 投票 0

如何在不生成 POJO 类的情况下发送 avro 消息

我的应用程序应该能够接受任何对象。 接受对象后,我需要将消息发布到 kafka 主题。主题附加了架构。 我能够进行模式验证...

回答 1 投票 0

Apicurio Registry 的反序列化器出现“artifactId cannot be null”错误

我正在尝试弄清楚 Apicurio Registry 的反序列化器期望的 Kafka 记录头格式。 我在 Apicurio Registry 中的 Avro Schema 我有一个 ID 为 hm.motor-value 的工件。 curl --location 'h...

回答 0 投票 0

Apicurio Registry 的反序列化器出现“artifactId cannot be null”错误

我正在尝试弄清楚 Apicurio Registry 的反序列化器期望的 Kafka 记录头格式。 我在 Apicurio Registry 中的 Avro Schema 工件 ID:hm.motor-value curl --location 'http://apicurio-

回答 0 投票 0

如何正确使用 Spark -> Kafka -> JDBC sink connector with Avro?

我有一个简单的 Spark 应用程序生成 Kafka 消息 导入 org.apache.spark.sql.SparkSession 导入 org.apache.spark.sql.functions.{col, struct} 导入 org.apache.spark.sql.avro.functions.to_avro

回答 3 投票 0

如何正确使用 Spark -> Kafka -> JDBC sink connector with Avro?

我有一个简单的 Spark 应用程序生成 Kafka 消息 导入 org.apache.spark.sql.SparkSession 导入 org.apache.spark.sql.functions.{col, struct} 导入 org.apache.spark.sql.avro.functions.to_avro

回答 3 投票 0

JDBC sink connector如何找到对应的AVRO schema?

我在 Apicurio Registry 有一个 AVRO 模式。 我正在尝试使用 Apicurio Registry 的 Confluent 兼容 REST API 端点。当前使用 Content ID 6 检索 curl --location 'http://apicurio-

回答 1 投票 0

JDBC sink connector如何找到对应的AVRO schema?

我在 Apicurio Registry 有一个 AVRO 模式。 我正在尝试使用 Apicurio Registry 的 Confluent 兼容 REST API 端点。当前使用 Content ID 6 检索 curl --location 'http://apicurio-

回答 0 投票 0

使用融合的云模式注册表客户端注册 jackson avro 模式时出错

我使用 Jackson 从 POJO 生成 Avro 模式并将其序列化。到目前为止,在杰克逊的帮助下,这工作得很好。 但是,我无法使用 Ca 将此模式上传到模式注册表...

回答 1 投票 0

Parquet/Avro/CSV 用例

我们有一些 csv 格式如下 hash_id c1 c2 c3 其中 hash_id 是一个字符串,c1 c2 和 c3 是整数列表,0 或 1。 理想情况下,我们希望将其编码为一个 numpy 数组,...

回答 0 投票 0

Avro 地图类型错误 - 架构中的路径:--> org.apache.avro.generic.GenericData.getDefaultValue(GenericData.java:1175) 上的事件 [关闭]

我有以下 Avro 架构定义。但是在运行应用程序时出现错误。我已经设置了值但仍然得到问题可能在哪里? { “类型”:“记录”, “……

回答 0 投票 0

解析多个 Avro 记录的字节数组

我正在尝试消耗一些主题。问题是当生产者序列化数据时,他在一条消息中放入了多个对象。当我反序列化一条消息时,我只得到一个对象而丢失了其他对象。 我的

回答 1 投票 0

kafka逐渐增加生产者和消费者的内存使用问题

我面临 Kafka 生产者和消费者的内存问题,我们的应用程序部署在 OpenShift 上。生产者和消费者应用程序的内存不断增加。 加载 43200...

回答 0 投票 0

如何使用 Kafka connect 与模式注册表反序列化来自 Kafka 的 Divolte AVRO 记录?

如何使用 Kafka-connect 消费和反序列化 Divolte 收集器写入 Kafka 的 Avro 记录?我想将序列化的 AVRO 记录转回 JSON 事件并将它们下沉到一个

回答 1 投票 0

Java 模块问题与 Confluent Kafka 库(拆分包)

第一次尝试将项目迁移到 Java 模块 (Jigsaw) 时,我遇到了 Confluent Serialization 库的问题: 模块 myproject 读取包 io.confluent.kafka.serializers

回答 0 投票 0

Apache Avro 能够反序列化为不正确的类型

在我的公司,我们在 Kafka 工作流中使用 Avro。在这个工作流程中,我们最终使用二进制序列化/反序列化来提醒我们的 API 对象是成功的还是失败的。我们有什么......

回答 1 投票 0

从列的子集中获取新的 GenericRecord

我们正在处理 Avro 文件,我们使用 GenericRecord 类型(在 Beam/Dataflow 中)。我想基于选定的列子集创建一个新的 GenericRecord。没有

回答 0 投票 0

如何使用@EventHubTrigger注解在Spring Boot编写的Azure Function中接收Avro Events?

这是包含@EventHubTrigger注解的类 包com.function; 导入 com.microsoft.azure.functions.*; 导入 com.microsoft.azure.function.annotation.*; 导入 java.util.Optio...

回答 0 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.