apache-kafka-connect 相关问题

Apache Kafka Connect是Apache Kafka与其他数据系统之间可扩展且可靠的流数据的工具。 - https://kafka.apache.org/documentation.html#connect

如何在 Strimzi 创建的 Kafka Connect 中使用 io.apicurio.registry.utils.converter.AvroConverter?

我有一个 Kafka 集群,由 Strimzi 和 Apicurio Registry 部署,用于 Kafka 模式注册表。 我希望在 JDBC 接收连接器中使用 AvroConverter 将数据从 Kafka 接收到 TimescaleDB。 这里...

回答 2 投票 0

如何正确使用 Spark -> Kafka -> JDBC sink connector with Avro?

我有一个简单的 Spark 应用程序生成 Kafka 消息 导入 org.apache.spark.sql.SparkSession 导入 org.apache.spark.sql.functions.{col, struct} 导入 org.apache.spark.sql.avro.functions.to_avro

回答 3 投票 0

JDBC sink connector如何找到对应的AVRO schema?

我在 Apicurio Registry 有一个 AVRO 模式。 我正在尝试使用 Apicurio Registry 的 Confluent 兼容 REST API 端点。当前使用 Content ID 6 检索 curl --location 'http://apicurio-

回答 1 投票 0

JDBC sink connector如何找到对应的AVRO schema?

我在 Apicurio Registry 有一个 AVRO 模式。 我正在尝试使用 Apicurio Registry 的 Confluent 兼容 REST API 端点。当前使用 Content ID 6 检索 curl --location 'http://apicurio-

回答 0 投票 0

java.lang.ClassNotFoundException:Kafka 连接中的 io.apicurio.registry.serde.avro.AvroKafkaSerializer

我有一个 Kafka 集群,由 Strimzi 和 Apicurio Registry 部署,用于 Kafka 模式注册表。 我希望在 JDBC 接收连接器中使用 AvroConverter 将数据从 Kafka 接收到 TimescaleDB。 这里...

回答 2 投票 0

Kafka Connect FilePulse 在 CSV 文件列上应用过滤并加载到 Kafka 主题中

我正在使用 FilePulse 连接器将 CSV 文件内容加载到 Kafka 主题中,并且工作正常。我的 CSV 文件内容示例如下; `reference_key,service_type,event_timestamp,cell_id,sit...

回答 0 投票 0

如何有效扩展 Kafka Connect?

我想运行一个本地 Kafka Connect (KC) 集群,它将运行多个不同的“源”和“接收器”连接器。目前在测试配置中,我缩放了 KC 集群...

回答 1 投票 0

Kafka 连接 Debezium Mongo 源连接器无法连接到 MongoDb 实例

以下命令用于在Docker中设置Zookeeper、Kafka、Schema-registry、Kafka-connect和MongoDb。 Kakfa-connect 集群似乎没有连接到 MongoDb,它一直在

回答 1 投票 0

Kafka:无法使用 MySQL 连接器 Kafka 中的 where 子句运行查询

JSON 文件: { “名称”:“mysql-jdbc”, “配置”:{ “connector.class”:“io.confluent.connect.jdbc.JdbcSourceConnector”, “连接。你...

回答 2 投票 0

Apache Ignite Kafka Streamer 不工作,获取 java.lang.NoClassDefFoundError:无法初始化类

遵循此处提到的说明: https://ignite.apache.org/docs/latest/extensions-and-integrations/streaming/kafka-streamer 但仍然出现以下错误: WorkerSinkTask{id=my-ignite...

回答 1 投票 0

Kafka S3 Sink Connector 在将文件提交到 S3 之前是否分配临时文件或堆外内存?

我正在研究 Kafka 连接 S3 接收器源代码,以确定它是否在上传到 S3 之前创建临时文件。 我发现记录被附加到内存队列 Que...

回答 1 投票 0

MongoDB Kafka 连接器未序列化 JSON 值

我有一个从 MongoDB 获取数据的 Kafka 源连接器。数据本身是一个简单的 JSON,在数据库中看起来像这样: { “_ID” : { “日期”:&q ...

回答 0 投票 0

TopicAuthorizationException 当 kafka connect 尝试访问偏移量存储主题时。 JKS 文件作为秘密卷安装在 kubernetes 上

在 kubernetes 上部署 kafka connect worker。 Helm 图表用于部署。 Kafka 集群是 SSL 加密的,所以我们使用 JKS keystore 和 truststore。 Kafka 连接无法访问偏移量

回答 0 投票 0

在 MSK 连接器中更改 client.dns.lookup

我有一个 AWS MSK 托管连接器,它似乎使用此默认配置 - client.dns.lookup = use_all_dns_ips 我想更改此值但是当我尝试在连接器中设置 client.dns.lookup

回答 0 投票 0

Kafka 连接独立问题:断开代理

我是新来的,这是我的第一个问题。我希望它不是重复的,我还没有找到我的问题的答案。我主要遵循教程(Medium/Youtube)。我也试过使用官方文档,...

回答 0 投票 0

MongoSinkConnector 无法启动“配置的文档 ID 策略所有记录都需要具有必须是映射或结构的键”

Mongo Sink 连接器启动失败,出现以下错误: 使用配置的文档 ID 策略,所有记录都需要有键,键必须是映射或结构。 记录密钥字符串...

回答 1 投票 0

debezium - 是否有解决“数据库历史主题丢失”错误的解决方案

为数据库中的每个表单独创建了一个 debezium 连接器。连接到同一数据库的连接器共享相同的 database.history.kafka.topic 和 database.server.name。还有

回答 1 投票 0

Kafka 连接器在连接分布式模式下打开时超时

kafka-connect 在以分发模式打开时出现如下错误。我已经增加了一些 connect-distributed.propertieses 参数,如下所示。我必须在发行版中打开连接...

回答 0 投票 0

Kafka Connect (Docker) 的问题取消了飞行中的 API 请求

我正在使用以下 docker compose 片段: 版本:'3' 服务: 卡夫卡连接: 图片:confluentinc/cp-server-connect:latest 重启:总是 主机名:kafka-connect 包含...

回答 1 投票 0

Kafka connect JDBC sink connector for Multi tenant app

我计划在多租户应用程序中使用 kafka 连接,如何根据消息有效负载或主题名称更改 jdbc 接收器连接器中的连接 url。因此它可以动态更改数据库,或任何建议...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.