avro 相关问题

Apache Avro是一个主要用于Apache Hadoop的数据序列化框架。

我们如何为Spring Cloud Stream Kafka生产者,消费者和KStreams中的模式配置value.subject.name.strategy?

我想在Spring Cloud Stream Producers,Consumers和KStreams中自定义Avro架构主题的命名策略。这将在Kafka中使用属性key.subject.name ....

回答 1 投票 1

无法与码头化生产者一起生产到卡夫卡

有没有人遇到这个错误? io.confluent.kafka.schemaregistry.client.rest.exceptions.RestClientException:意外字符('

回答 1 投票 0

如何使用bq load命令加载多个AVRO文件

我正在尝试按照以下文档将多个AVRO文件加载到大查询中:https://cloud.google.com/bigquery/docs/loading-data-cloud-storage-avro根据文档,执行此操作的命令是:bq -...

回答 1 投票 1

Beam写入avro文件序列化错误

我按照在Beam文档中编写AVRO文件的示例。但它给了我一个错误引起:java.io.NotSerializableException:org.apache.avro.Schema $ RecordSchema at p.run()。waitUntilFinish(...

回答 1 投票 0

带有融合模式注册表的Spring Cloud Stream Kafka无法将Message发送到通道输出

我想使用Confluent Schema Registry和Avro Schema evolution测试Spring Cloud Stream,以便将它与我的应用程序集成。我发现Spring Cloud Stream不支持...

回答 1 投票 0

如何通过融合将kafka主题的流转换为elasticsearch?

我从机器读取数据并将其作为JSON流式传输到kafka主题。我想阅读这个主题并将streamdata存储到elasticsearch中。我的步骤:1。创建KSQL Streams到...

回答 1 投票 0

如何将嵌套的avro GenericRecord转换为Row

我有一个代码,使用函数avroToRowConverter()directKafkaStream.foreachRDD(rdd - > {JavaRDD将我的avro记录转换为Row newRDD = rdd.map(x - > {注射&...

回答 1 投票 5

如何以图形方式表示和操作apache avro架构

我最近一直在使用apache avro,我自己编写avro架构文件,现在我正在处理其他开发人员架构并寻找可视化架构以保存的工具......

回答 1 投票 9

Kafka Connect忽略指定的主题策略

我想使用下面的连接器配置将多个表数据发布到同一个Kafka主题,但我看到下面的异常异常引起:io.confluent.kafka.schemaregistry.client.rest ....

回答 1 投票 0

SchemaRegistryClient缓存不起作用,不必要的Schemaregistry GET请求是问题,

我正在使用Kafka来反序列化Avro消息。为此,程序应从Schema注册表中提取相应的Schema。流媒体应用程序实现为Nifi处理器,可在...

回答 1 投票 0

阅读现有的Avro文件并发送给Kafka

我有一个现有的Avro文件与架构。我需要将文件发送给Producer。以下是我写的代码。 public class ProducerDataSample {public static void main(String [] args)...

回答 2 投票 -1

Avro Schema与Kafka,ClassCastException?

我已经为我们发布到Kafka主题的记录创建了一个Avro架构。我们实际的Kafka记录模式更复杂,但为了简洁起见,我附上了相关部分。我们有更多......

回答 1 投票 0

Avro序列化/反序列化到Kafka主题[关闭]

我正在尝试创建一个通用实用程序,它将从Kafka主题中读取avro文件,并将avro文件写入Java中的主题。我找不到相同的文档。欣赏任何工作......

回答 1 投票 -2

访问AVRO GenericRecord(Java / Scala)中的嵌套字段

我有一个嵌套字段的GenericRecord。当我使用genericRecord.get(1)时,它返回一个包含嵌套AVRO数据的Object。我希望能够像genericRecord.get(1)那样访问该对象....

回答 3 投票 3

如何使用Apache Beam反序列化Kafka AVRO消息

主要目标是聚合两个Kafka主题,一个压缩的慢速移动数据和另一个每秒接收的快速移动数据。我已经能够简单地消费消息了......

回答 4 投票 1

在Spark 2.4中从spark-shell写AVRO

Spark 1.8.0 on Java 1.8.0_161(Scala 2.11.12)运行命令:spark-shell --jars = spark-avro_2.11-2.4.0.jar目前正在使用小型avro文件处理某些POC,我想成为能读(单)...

回答 1 投票 0

kafka的汇编和Spring模式注册表

我正在为kafka设置架构注册服务器。我已经使用了融合模式注册表,一切都很好,但后来我看到,你可以用更少的麻烦设置一个默认的,弹簧。所以我做了但是我...

回答 1 投票 0

如何使用Spring云流访问使用密码保护的融合模式注册表服务器?

我正在使用Spring云流与Aiven的架构注册表一起使用汇编的架构注册表。 Aiven的架构注册表使用密码进行保护。根据这些说明,这两个......

回答 3 投票 1

正则表达式:是否有可能在捕获组内进行替换?

我有一行JSON文本:{“schemaText”:{“fields”:[{“name”:“AX_SND_TYPE”,“type”:“string”},{“name”:“BWORK”,“type”: “int”}],“name”:“XXXSchema”,“type”:“record”},“description”:“由NiFi自动生成”......

回答 3 投票 2

如何从Map创建模式并注册到Schema Registry

有没有办法从Map创建Schema。我有一个带键值对的地图,并希望从中创建Schema。我见过org.apache.avro.Schema类(来自avro-tools-1.8.2.jar)并且有......

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.