apache-kafka-connect 相关问题

Apache Kafka Connect是Apache Kafka与其他数据系统之间可扩展且可靠的流数据的工具。 - https://kafka.apache.org/documentation.html#connect

在kafka_connect中配置__consumer_offset以减少空间。

我读到在brokers上有一个配置,可以用offset.reention.minutes来设置offset数据保留的时间。我的Kafka架构由3个ZK,3个Brokers和2个kafka connect workers组成。我的Kafka架构由3个ZK,3个Broker和2个kafka connect worker组成。

回答 1 投票 0

当使用Oracle DB时,Kafka连接器的正确属性是什么?

我正在学习Kafka连接,并希望使用Oracle作为我的数据库。我在属性方面遇到了问题。有没有什么设置属性是我遗漏的,以解决这个错误?

回答 1 投票 0

Debezium-oracle-connect, kafka connect ORA-01031。

我按照官方文档创建kafka connect。Kafka2.4和Debezium 1.0 Final { "name": "oracle-connect", "config": "connector.class" : "io.debezium.connector.oracle......" { "name": "oracle-connect", "config": { "connector.class" : "io.debezium.connector.oracle......

回答 1 投票 1

我无法在kafka中用公网IP收发消息。

我在Kafka中不能用公网IP收发消息。我试着把IP改成private和public,也试着把advertised.host.name改成0.0.0.0。我也试过将advertised.host.name改为0.0.0.0。

回答 1 投票 0

Debezium的ExtractNewRecordState转换不能工作。

我正在建立一个数据同步器,它可以捕获MySQL Source的数据变化,并将数据导出到hive。我选择使用Kafka Connect来实现这个功能。我使用Debezium作为源连接器,并...

回答 1 投票 0

debezium。数据库中没有最大LSN记录;请确保SQL Server Agent正在运行。

这个问题与: Debezium 如何正确注册SqlServer连接器与Kafka Connect - 连接被拒绝 在Windows 10中,我有Debezium运行在Microsoft ...

回答 1 投票 0

从MSSQL vis kafka连接器到弹性搜索的嵌套类型的批量数据更新失败。

MSSQL值:column name=prop --> value= 100 and column name=role --> value= [{"role": "actor"},{"role": "director"}] 注意:column:role是以json格式保存的。

回答 1 投票 0

Kafka Connect可以成为我的Hadoop集群的一部分吗?

我目前正在使用一个由10个节点(1个名称节点和9个数据节点)组成的Hadoop集群,其中运行着Hbase、Hive、Kafka、Zookeeper和其他Hadoop的呼应系统。现在我想从......取数据。

回答 1 投票 0

Kafka Producer vs Kafka Connector

我需要通过调用存储过程从数据库(比如Oracle DB)推送数据到kafka主题,我也需要对消息做一些验证,我应该使用生产者API还是Kafka Connector。

回答 1 投票 0

Kafka文件从MS sql server传输到s3 bucket?

我需要将SQL Server中的文件传输到Minio中。当一个文件被写入MS SQL Server中的一个表时,我想通过Kafka s3 Connector将其写入Minio bucket。通过Kafka可以吗?

回答 1 投票 0

Cassandra Sink Connector:在尝试创建find主题'_confluent-command'时出错。

不能使用Ksqldb创建一个Kafka -> Cassandra Sink连接器:CREATE SINK CONNECTOR cassandra WITH( "connector.class" = 'io.confluent.connect.cassandra.CassandraSinkConnector', "tasks.max" = '1', ...

回答 1 投票 0

Kafka流转为CSV

我在java中使用Kafka,将JSON消息以字符串的形式消耗,速率是每分钟100万条消息,我需要将字符串拆分,只取一些值,并保存到CSV中加载到数据库中,如何才能做出这样的 ...

回答 1 投票 0

Kafka连接器总是作为一个单一的任务工作。

在这里输入图片描述 我试图使用kafka将数据从oracleDB传输到mongoDB。所以我把kafka集群配置成上图那样。我知道调整分区和任务......。

回答 1 投票 0

Kafka Connect中的多消息转换

我有一个Kafka-Connect,我需要将其与一个REST API集成,该API在调用单输入多数据模型时效果最好。想象一下下面的情况。Source Topic --> REST Request --> REST ...

回答 1 投票 0

汇流S3连接器澄清

我们正在使用confluent的s3连接器将avro数据从一个主题发送到s3。我们有3个broker节点,在这3个节点上我们都运行着confluent s3-connector。在连接器的配置文件中,我们有... ...

回答 1 投票 0

Kafka Connect 如何使命名空间与数据库名称不可知?

我的环境是MySQL(5.7)。我们有多个模式,命名惯例是{application_name}_env。举个例子,我们有两个应用程序:application_name}_env。考虑我们有两个应用程序:app1和app2开发环境。数据库名称将...

回答 1 投票 0

kafka-connect org.apache.avro.SchemaParseException: 非法字符$

我使用jdbc源连接器,当我想连接一个名称中包含"$"的表时,得到以下错误。 org.apache.avro.SchemaParseException: Illegal character &lt.>$..; >$...

回答 1 投票 1

Kafka s3 sink连接器--一个json中包含许多json

我在s3的sink连接器上遇到了一个问题。我将flush-size设置为3(用于测试),我的s3可以正常接收json文件。但当我打开json文件时,我没有一个json列表,我只有...

回答 1 投票 0

更改connect.offsets kafka连接器错误。

我把数据从binlog mysql同步到kafka,有时binlog文件被删除了,我得到一个错误,重新启动连接器org.apache.kafka.connect.errors.ConnectException。连接器正在尝试...

回答 1 投票 0

自定义Kafka连接器:连接器已出错,但任务仍在运行。

我正在构建一个自定义Kafka源连接器。这个连接器已经启动并运行了。我使用 rest API 来更新连接器的配置设置(例如 Source endpoint 和连接密钥)。I ...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.