apache-kafka-connect 相关问题

Apache Kafka Connect是Apache Kafka与其他数据系统之间可扩展且可靠的流数据的工具。 - https://kafka.apache.org/documentation.html#connect

kafka 生产者警告:NOT_ENOUGH_REPLICAS 在主题分区 mytopic-events-0 上生成带有相关 id 的错误响应,正在重试

我们在 debezium-mysql-connector 日志中每秒看到此警告 10 次: [kafka-生产者-网络-线程 |连接分布式偏移] 警告 org.apache.kafka.clients. Producer.internals.Sende...

回答 1 投票 0

您可以使用 Kafka Connect 和 Big Query Sink 将嵌套 json 中的元素加载到 Kafka Big Query 中的多行中吗?

我想看看 Kafka Connect 是否是适合我的用例的可能解决方案。我需要近乎实时地将 Kafka 写入大查询数据集。我的消息包含多个嵌套元素...

回答 1 投票 0

Strimzi kafka connect 找不到我的自定义变压器,但找到连接器

我正在运行一个 Strimzi KafkaConnect 集群,它加载自定义转换器以将 SMT 应用于我们的消息。 .jar 位于映像内并由 Strimzi KafkaConnect 集群加载(出现在日志中):

回答 1 投票 0

StreamSource:错误连接器错误后停止(org.apache.kafka.connect.cli.ConnectStandalone:84)

所以我尝试运行 connect-standalone.sh 通过传递两个属性文件来将日志文件中的数据作为消息生成到 Kafka 主题中 信息 Kafka Connect 已启动(org.apache.kafka.conn...

回答 1 投票 0

aws msk 上的 FilePulse 源连接器 - TimeoutException

我目前正在尝试使用 FilePulse Source Connector 但不断收到这些错误 org.apache.kafka.common.errors.TimeoutException:调用(callName = fetchMetadata,.... 引起者:org.apache.kafka....

回答 1 投票 0

覆盖 Kafka Connect 中的属性

我需要使用 Mongo Connect 覆盖一些属性。我在 connect-distributed.properties 中添加了行 Connector.client.config.override.policy=ALL 就像在这个教程中一样 https://debezium.io/

回答 1 投票 0

kafka 连接异常,复制因子:3 大于可用代理:1

kafka连接5.4 只有一个连接器、一名工作人员并使用分布式连接。 以下是错误消息: [2020-06-22 19:09:58,700] 错误 [Worker clientId=connect-1,groupId=test-cluster] 未被捕获

回答 4 投票 0

在Kafka中,更新MongoDB中的文档时,“Key”与“Id”不匹配

我们正在尝试使用 com.mongodb.kafka.connect.MongoSourceConnector 将所有记录从 MongoDB 获取到 Kafka。用于连接器的设置如下: { “名字”:“我...

回答 2 投票 0

CDC PostgreSQL 与 Debezium 同时忽略列

我有一个包含 10 列的 postgreSQL 表,我们需要在此表上启用 CDC,以仅捕获其中一列的更改,而忽略其他九列。我们的 Debezium 具有以下配置: ...

回答 1 投票 0

如何在Kafka连接器中正确连接Elastic Operator部署的Elasticsearch?

我在Kafka中有一些CDC数据。现在我正在尝试从Kafka下沉到Elasticsearch。这是我到目前为止所做的: 第 1 步 - 在 Kubernetes 中部署 Elasticsearch(成功) 我在

回答 2 投票 0

kafka-connect-bigquery 连接器故障

我正在利用 wepay/kakfa-connect-bigquery:2.5.0 并使用它将表复制到 BigQuery。对于某些主题,在写入 BigQuery 以及之后的数据时经常会遇到错误

回答 1 投票 0

如何在独立模式下运行 Kafka-Connect SInk

我想在独立模式下运行一个kafka连接接收器以进行测试,因为尽管有一台强大的计算机,但我不想不必要地过度工作...... 我有这个配置...

回答 1 投票 0

自上次偏移提交以来任务没有生成任何记录,或者每个记录都已被过滤掉

我正在执行一项在本地计算机上设置 jdbc kafka 连接器的任务。我一步一步完成了设置: ➜ bin ./zookeeper-server-start.sh ../config/zookeeper.properties ➜ 垃圾箱....

回答 1 投票 0

Kafka 连接任务优雅停止失败

上下文:使用kafka connect 7.4.0从Postgres视图读取数据并写入另一个Postgres表。 一切都很好,但每当我通过其余 api 停止源连接器时,我总是得到:

回答 1 投票 0

无法找到或加载主类org.apache.kafka.connect.cli.ConnectStandalone

我正在尝试使用以下命令从 Ubuntu 运行程序将 Kafka 与 MQ 连接,但出现以下错误 错误: 无法找到或加载主类 org.apache.kafka.connect.cli。

回答 2 投票 0

kafka 连接 http 接收器的死信队列

我正在为 Kafka 连接编写 HTTP Sink 插件。其目的是为配置的 Kafka 主题中的每条消息发送 HTTP 请求。我想将消息发送到死信队列,以防 HTTP 重新...

回答 1 投票 0

Kafka Connect 如何帮助将 Avro 持久保存到数据库?为什么这是一个很好的设计方法?

根据此堆栈,Kafka Connect 将有助于防止在发布到 Kafka 并将 avro 消息保存到数据库时执行“两步提交”,并且它遵循“r...

回答 1 投票 0

来自 Kafka Connect 的墓碑记录

是否可以配置Kafka Connect(Source)来生成逻辑删除记录? 我有一个记录“删除”事件的表。我可以将其填充到一个主题并编写一些代码来转发墓碑

回答 1 投票 0

升级到 Debezium Postgres Connector v2.0.1 导致架构不兼容问题

我有一个使用 Kafka、Debezium Connector for Postgres 和 Schema 注册表的应用程序。目前我正在运行 Debezium Connector 1.9.3 版本,一切运行良好。 最近,当我...

回答 1 投票 0

在kafka-connect接收器中提取字段并解析JSON

我有一个 mongodb->kafka connect->elasticsearch 端到端发送数据的 kafka-connect 流程,但有效负载文档是 JSON 编码的。这是我的 mongodb 源文档。 { "_id": "1541527535...

回答 2 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.