Apache Kafka Connect是Apache Kafka与其他数据系统之间可扩展且可靠的流数据的工具。 - https://kafka.apache.org/documentation.html#connect
Bootstrap broker 127.0.0.1:9092 (id: -1 rack: null) disconnected
我正在运行 Kafka 的制作人,我遇到了以下错误。 我已经在 wsl 中启动了 zookeeper 和 Kafka。知道如何解决这个问题吗? kafka-producer-network-thread | producer-1] WARN org.apache.k ...
如何从数据库中填充自动递增的主键字段而不是在 Kafka Producer 中显式填充它?
我正在创建一个端到端的 kafka 消息传递示例。 当我来到从生产者那里将用户数据填充到 kafka 主题的步骤时,并在使用以下设置我的模式注册表之后: { “
我设置了(connection.backoff.ms,retry.backoff.ms)参数为5分钟,期望从kafka发送到断开连接的数据库后,重试时间为5分钟。但是重启后...
带有 AWS Glue 架构注册表的 MongoDB 接收器连接器
如何将 AWS Glue 架构注册表与 MongoDB 接收器和源连接器一起使用?我有以下配置 连接器.class=com.mongodb.kafka.connect.MongoSinkConnector 文档.id.strategy.overwrite.
如何使用 MongoDB Kafka Source Connector 生成 JSON 格式的 kafka 消息?
我在阅读有关 MongoDB Kafka 连接器转换器的文档时感到困惑。有人可以至少回答我的一个问题吗... https://www.mongodb.com/docs/kafka-connector/v1.3/introdu...
如何配置 Apache Kafka Mongo 源连接器连接器以检索字段的特定列表
我有一个来自 MongoDB 的大负载,它的大小大于 max.request.size。我们需要使用管道过滤输出。 让我们以下面的例子为例。 { "_id&q...
无法使用 MySQL 连接器 Kafka 中的 where 子句运行查询
JSON 文件: { “名称”:“mysql-jdbc”, “配置”:{ “connector.class”:“io.confluent.connect.jdbc.JdbcSourceConnector”, “连接。你...
Apache kafka connect mirrormaker2 没有双向运行
我们在两个 DC(DC1 和 DC2)中有一个 3 节点的 apache kafka 集群。我们希望 DC1 中的所有主题都复制到 DC2 中,所有 DC2 主题都复制到 DC1 中。我们正在运行一个瞬间......
Error: Kafka target database批量录入错误(主键冲突为Null值)
Error: Batch entry 0 INSERT INTO "person" ("ID","NAME") VALUES (NULL,'Alex') ON CONFLICT ("ID") DO UPDATE SET "NAME"=EXCLUDED."NAME" was
错误:表 'person' 的 PK 模式是 RECORD_KEY,但缺少记录键模式
资料来源:甲骨文数据库 目标:Postgres 使用 Kafka 复制数据。 当我插入时,它工作正常。 当我更新源上的记录时,它会在目标上放置一个新条目而不是向上......
我的 debezium 源连接器为 kafka 生成不同格式(同一列)的时间戳字段。 例子:- “2023-02-26T18:30:00Z” “2022-10-27T09:21:45.522779Z” 所以我想...
用于查看来自微服务的所有 Kafka 输入和输出主题的软件 [关闭]
作为全面了解我组织中每个微服务使用的所有 Kafka 主题的一部分,我正在寻找一种自动化工具,它可以扫描并提供我...
JDBC Sink Connector ConnectException - 表“schema”“table”丢失,oracle 禁用自动创建
我正在尝试使用 Oracle DB 将数据从 kafka 主题“kafka2.INVENTORY.PRODUCT”接收到模式名称“tinventory”下的表“product_target”。这个水槽我正在尝试......
使用 TimeBasedPartitioner 在 kafka-connect 上为 kubernetes 配置 s3 接收器以增加吞吐量
我在配置了 KAFKA_HEAP_OPTS 的 kubernetes 上运行 kafka-connect:“-Xmx1G -Xms1G”和资源: 要求: 中央处理器:200米 内存:2Gi 我需要从中提取大量遗留数据...
我正在使用 Kafka SQS Source 连接器,它使用来自 AWS SQS 队列的消息并将消息发布到 Kafka 主题。我所有的消息都是 JSON 格式,但 SQS 源连接器以
带有 MSSQL Debezium 连接器的 AWS MSK Connect 因断开连接而失败
我正在尝试使用 AWS MSK Connect 设置 mssql debezium 连接器,但不断收到以下错误消息: 连接器错误日志: [Worker-0a949760f6b805d4f] [2023-02-15 19:57:56,122] 警告 [...
我正在尝试使用以下选项使用 Kafka 消息 [根据要求格式化令牌] kafkacat -C -b localhost:9092 -t test-topic -p 0 -f 'Topic %t [%p] at offset %o: key %k: %s ' -o -1 -e | jq ...
Kafka-kinesis 连接器错误:无法启动任务 XXX-0 (org.apache.kafka.connect.runtime.Worker:652)
我正在关注 kinesis-kafka GitHub 站点上的教程 https://github.com/awslabs/kinesis-kafka-connector 到目前为止,我已经使用 maven 编译了 kinesis-kaka-connector.jar 类库,我是
MongoDB Kafka Sink 连接器 - 后处理器 post.processor.chain 类未加载
我们正在尝试为 Kafka MongoDB Sink 连接器实施自定义后处理器。 但是,我们收到类名模式未找到错误。 sink-connector.properties post.processor.chain=..kafka.m...
使用 MSK 连接器从 MSK 流式传输到 RDS PostgreSQL
这几天我一直在兜圈子。我正在使用 kafkajs 向 Kafka 发送数据。每次我生成一条消息时,我都会为 message.key 值分配一个 UUID,并且 message.value ...