confluent 相关问题

Confluent Inc.是一家总部位于Palo Alto的软件公司,由在LinkedIn上建立Apache Kafka的团队创建,该公司扩展了Kafka,每天容纳超过1万亿条消息。 Confluent构建了一个基于Apache Kafka的事件流平台,使公司能够轻松地以实时流的形式访问数据。他们的产品范围从完全自我管理的实例到Confluent Cloud。

将在kafka中创建的主题自动下沉到elasticsearch

我有在kafka(test1,test2,test3)中创建的主题,我想在创建时将它们弹到弹性。我尝试了topics.regex,但它只为已存在的主题创建索引。我怎么能够 ...

回答 1 投票 0

无法运行融合的Kafka平台

我正在学习本教程。按照指示,我从这里下载了平台,并克隆了github存储库以获取代码。下载的平台是压缩形式,所以我解压缩它...

回答 1 投票 -1

如何使用Python中的confluent-kafka发送和使用json消息

我是Python的新手并开始使用Kafka。所以我设置了一个Kafka经纪人,我正在尝试使用confluent-kafka与它进行通信。我已经能够生产和消费简单......

回答 1 投票 1

“尝试在Windows中启动Zookeeper”时“log4j.properties此时出乎意料”

我正在使用Confluent的kafka流下载(http://www.confluent.io/product/kafka-streams/)。我按照说明在Windows上运行Zookeeper和Kafka。但是当我试着开始......

回答 2 投票 3

kafka集群中的Kafka管理器配置问题

我试图在我的kafka集群中安装和配置kafka管理器,但在构建kafka manager二进制文件时面临问题,如下所示。 ./sbt clean dist。服务器没有连接互联网,所以不...

回答 1 投票 0

创建的表和流不显示为主题

我可以在KSQL中成功创建和查看表和流,但它们没有显示为主题,所以我可以在Java Kafka Consumer上使用它们。发生了什么:ksql> CREATE TABLE ...

回答 1 投票 0

Confluent Schema Registry超时错误

我正在使用Avro架构将数据写入Kafka主题。最初,一切都很好。在avro文件中再添加一个新字段(scan_app_id)之后。我正面临这个错误。 Avro文件:{“type”:“...

回答 1 投票 1

Kafka连接器和架构注册表 - 错误检索Avro架构 - 未找到主题

我有一个主题,最终会有很多不同的模式。现在它只有一个。我通过REST创建了一个连接作业,如下所示:{“name”:“com.mycompany.sinks.GcsSinkConnector -...

回答 1 投票 0

使用ConfluentSchemaRegistry反序列化avro数据时出现异常?

我是flink和Kafka的新手。我试图使用Confluent Schema注册表反序列化avro数据。我已经在ec2机器上安装了flink和Kafka。此外,已创建“测试”主题...

回答 1 投票 0

Kafka无法在Linux机器上与Zookeeper连接

我一直在尝试在Linux机器上创建Kafka的生产者和消费者。我用以下命令启动了zookeeper和kafka的实例。 docker run -d \ --name ...

回答 1 投票 1

如何在达到特定大小(128 Mb)时将Kafka消息提交到HDFS接收器

我的配置:Confluent(5.0.0)Kafka生成一些avro消息。 Connect worker(HDFS连接器接收器)将这些消息以Parquet格式传输到HDFS节点。我配置连接工作者提交...

回答 1 投票 0

org.apache.kafka.connect.errors.DataException:数组默认值的JSON无效:“null”

我正在尝试使用confluent-4.1.1来使用汇合的Kafka s3连接器。 s3-sink“value.converter.schema.registry.url”:“http:// localhost:8081”,“value.converter”:“io.confluent.connect.avro ....

回答 2 投票 0

Kafka Connect S3动态S3文件夹结构创建?

我已经使用独立方法手动安装了Confluent Kafka Connect S3,而不是通过Confluent的流程或作为整个平台的一部分。我可以从...成功启动连接器

回答 1 投票 0

Spring Cloud Stream Kafka应用程序无法使用正确的Avro架构生成消息

我有一个带有KStream的应用程序(spring-boot-shipping-service),它获取由外部生产者(spring-boot-order-service)生成的OrderCreatedEvent消息。这个制片人使用以下......

回答 1 投票 0

如何使用Confluent.Kafka .Net Client创建Kafka主题

似乎Kafka(https://github.com/confluentinc/confluent-kafka-dotnet)最受欢迎的.net客户端缺少设置和创建主题的方法。当调用Producer.ProduceAsync()主题时......

回答 3 投票 1

如何通过融合将kafka主题的流转换为elasticsearch?

我从机器读取数据并将其作为JSON流式传输到kafka主题。我想阅读这个主题并将streamdata存储到elasticsearch中。我的步骤:1。创建KSQL Streams到...

回答 1 投票 0

Kafka连接JDBC接收器 - 将嵌套的json映射到多行

作为要求的一部分,我们将继续使用Kafka连接将数据推送到我们的数据库。到目前为止我读到的是消息和数据库行之间将存在1x1映射,即单个消息...

回答 1 投票 0

从本地计算机连接到Docker中运行的Kafka

我在本地计算机上使用docker设置单节点基本Kafka部署,如Confluent Kafka文档中所述(步骤2-3)。另外,我还曝光了zookeeper的2181端口......

回答 2 投票 3

在jdbc连接器中使用递增摄取的问题

我正在尝试使用递增的摄取来生成有关更新mysql中的表的主题的消息。它使用时间戳工作,但似乎没有使用递增列模式。当我 ...

回答 1 投票 0

即使在指定quote.sql.identifiers = NEVER之后,table.whitelist也是区分大小写的

我使用JDBC源连接器从oracle到kafka主题摄取数据。我有用小写字母创建的kafka主题,所以我必须指定table.whitelist = table_name(小例)。由...来...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.