apache-kafka-connect 相关问题

Apache Kafka Connect是Apache Kafka与其他数据系统之间可扩展且可靠的流数据的工具。 - https://kafka.apache.org/documentation.html#connect

Bootstrap broker 127.0.0.1:9092 (id: -1 rack: null) disconnected

我正在运行 Kafka 的制作人,我遇到了以下错误。 我已经在 wsl 中启动了 zookeeper 和 Kafka。知道如何解决这个问题吗? kafka-producer-network-thread | producer-1] WARN org.apache.k ...

回答 0 投票 0

如何从数据库中填充自动递增的主键字段而不是在 Kafka Producer 中显式填充它?

我正在创建一个端到端的 kafka 消息传递示例。 当我来到从生产者那里将用户数据填充到 kafka 主题的步骤时,并在使用以下设置我的模式注册表之后: { “

回答 0 投票 0

如何在JdbcSinkConnector中实现延时?

我设置了(connection.backoff.ms,retry.backoff.ms)参数为5分钟,期望从kafka发送到断开连接的数据库后,重试时间为5分钟。但是重启后...

回答 2 投票 0

带有 AWS Glue 架构注册表的 MongoDB 接收器连接器

如何将 AWS Glue 架构注册表与 MongoDB 接收器和源连接器一起使用?我有以下配置 连接器.class=com.mongodb.kafka.connect.MongoSinkConnector 文档.id.strategy.overwrite.

回答 0 投票 0

如何使用 MongoDB Kafka Source Connector 生成 JSON 格式的 kafka 消息?

我在阅读有关 MongoDB Kafka 连接器转换器的文档时感到困惑。有人可以至少回答我的一个问题吗... https://www.mongodb.com/docs/kafka-connector/v1.3/introdu...

回答 0 投票 0

如何配置 Apache Kafka Mongo 源连接器连接器以检索字段的特定列表

我有一个来自 MongoDB 的大负载,它的大小大于 max.request.size。我们需要使用管道过滤输出。 让我们以下面的例子为例。 { "_id&q...

回答 0 投票 0

无法使用 MySQL 连接器 Kafka 中的 where 子句运行查询

JSON 文件: { “名称”:“mysql-jdbc”, “配置”:{ “connector.class”:“io.confluent.connect.jdbc.JdbcSourceConnector”, “连接。你...

回答 0 投票 0

Apache kafka connect mirrormaker2 没有双向运行

我们在两个 DC(DC1 和 DC2)中有一个 3 节点的 apache kafka 集群。我们希望 DC1 中的所有主题都复制到 DC2 中,所有 DC2 主题都复制到 DC1 中。我们正在运行一个瞬间......

回答 0 投票 0

Error: Kafka target database批量录入错误(主键冲突为Null值)

Error: Batch entry 0 INSERT INTO "person" ("ID","NAME") VALUES (NULL,'Alex') ON CONFLICT ("ID") DO UPDATE SET "NAME"=EXCLUDED."NAME" was

回答 0 投票 0

错误:表 'person' 的 PK 模式是 RECORD_KEY,但缺少记录键模式

资料来源:甲骨文数据库 目标:Postgres 使用 Kafka 复制数据。 当我插入时,它工作正常。 当我更新源上的记录时,它会在目标上放置一个新条目而不是向上......

回答 1 投票 0

无法在一个字段上应用两次 Kafka 时间戳转换

我的 debezium 源连接器为 kafka 生成不同格式(同一列)的时间戳字段。 例子:- “2023-02-26T18:30:00Z” “2022-10-27T09:21:45.522779Z” 所以我想...

回答 1 投票 0

用于查看来自微服务的所有 Kafka 输入和输出主题的软件 [关闭]

作为全面了解我组织中每个微服务使用的所有 Kafka 主题的一部分,我正在寻找一种自动化工具,它可以扫描并提供我...

回答 0 投票 0

JDBC Sink Connector ConnectException - 表“schema”“table”丢失,oracle 禁用自动创建

我正在尝试使用 Oracle DB 将数据从 kafka 主题“kafka2.INVENTORY.PRODUCT”接收到模式名称“tinventory”下的表“product_target”。这个水槽我正在尝试......

回答 1 投票 0

使用 TimeBasedPartitioner 在 kafka-connect 上为 kubernetes 配置 s3 接收器以增加吞吐量

我在配置了 KAFKA_HEAP_OPTS 的 kubernetes 上运行 kafka-connect:“-Xmx1G -Xms1G”和资源: 要求: 中央处理器:200米 内存:2Gi 我需要从中提取大量遗留数据...

回答 1 投票 0

SQS 源连接器不生成 JSON 格式的消息

我正在使用 Kafka SQS Source 连接器,它使用来自 AWS SQS 队列的消息并将消息发布到 Kafka 主题。我所有的消息都是 JSON 格式,但 SQS 源连接器以

回答 2 投票 0

带有 MSSQL Debezium 连接器的 AWS MSK Connect 因断开连接而失败

我正在尝试使用 AWS MSK Connect 设置 mssql debezium 连接器,但不断收到以下错误消息: 连接器错误日志: [Worker-0a949760f6b805d4f] [2023-02-15 19:57:56,122] 警告 [...

回答 1 投票 0

如何使用kafkacat -f选项?

我正在尝试使用以下选项使用 Kafka 消息 [根据要求格式化令牌] kafkacat -C -b localhost:9092 -t test-topic -p 0 -f 'Topic %t [%p] at offset %o: key %k: %s ' -o -1 -e | jq ...

回答 1 投票 0

Kafka-kinesis 连接器错误:无法启动任务 XXX-0 (org.apache.kafka.connect.runtime.Worker:652)

我正在关注 kinesis-kafka GitHub 站点上的教程 https://github.com/awslabs/kinesis-kafka-connector 到目前为止,我已经使用 maven 编译了 kinesis-kaka-connector.jar 类库,我是

回答 1 投票 0

MongoDB Kafka Sink 连接器 - 后处理器 post.processor.chain 类未加载

我们正在尝试为 Kafka MongoDB Sink 连接器实施自定义后处理器。 但是,我们收到类名模式未找到错误。 sink-connector.properties post.processor.chain=..kafka.m...

回答 0 投票 0

使用 MSK 连接器从 MSK 流式传输到 RDS PostgreSQL

这几天我一直在兜圈子。我正在使用 kafkajs 向 Kafka 发送数据。每次我生成一条消息时,我都会为 message.key 值分配一个 UUID,并且 message.value ...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.