Apache Kafka Connect是Apache Kafka与其他数据系统之间可扩展且可靠的流数据的工具。 - https://kafka.apache.org/documentation.html#connect
kafka 生产者警告:NOT_ENOUGH_REPLICAS 在主题分区 mytopic-events-0 上生成带有相关 id 的错误响应,正在重试
我们在 debezium-mysql-connector 日志中每秒看到此警告 10 次: [kafka-生产者-网络-线程 |连接分布式偏移] 警告 org.apache.kafka.clients. Producer.internals.Sende...
您可以使用 Kafka Connect 和 Big Query Sink 将嵌套 json 中的元素加载到 Kafka Big Query 中的多行中吗?
我想看看 Kafka Connect 是否是适合我的用例的可能解决方案。我需要近乎实时地将 Kafka 写入大查询数据集。我的消息包含多个嵌套元素...
Strimzi kafka connect 找不到我的自定义变压器,但找到连接器
我正在运行一个 Strimzi KafkaConnect 集群,它加载自定义转换器以将 SMT 应用于我们的消息。 .jar 位于映像内并由 Strimzi KafkaConnect 集群加载(出现在日志中):
StreamSource:错误连接器错误后停止(org.apache.kafka.connect.cli.ConnectStandalone:84)
所以我尝试运行 connect-standalone.sh 通过传递两个属性文件来将日志文件中的数据作为消息生成到 Kafka 主题中 信息 Kafka Connect 已启动(org.apache.kafka.conn...
aws msk 上的 FilePulse 源连接器 - TimeoutException
我目前正在尝试使用 FilePulse Source Connector 但不断收到这些错误 org.apache.kafka.common.errors.TimeoutException:调用(callName = fetchMetadata,.... 引起者:org.apache.kafka....
我需要使用 Mongo Connect 覆盖一些属性。我在 connect-distributed.properties 中添加了行 Connector.client.config.override.policy=ALL 就像在这个教程中一样 https://debezium.io/
kafka连接5.4 只有一个连接器、一名工作人员并使用分布式连接。 以下是错误消息: [2020-06-22 19:09:58,700] 错误 [Worker clientId=connect-1,groupId=test-cluster] 未被捕获
在Kafka中,更新MongoDB中的文档时,“Key”与“Id”不匹配
我们正在尝试使用 com.mongodb.kafka.connect.MongoSourceConnector 将所有记录从 MongoDB 获取到 Kafka。用于连接器的设置如下: { “名字”:“我...
CDC PostgreSQL 与 Debezium 同时忽略列
我有一个包含 10 列的 postgreSQL 表,我们需要在此表上启用 CDC,以仅捕获其中一列的更改,而忽略其他九列。我们的 Debezium 具有以下配置: ...
如何在Kafka连接器中正确连接Elastic Operator部署的Elasticsearch?
我在Kafka中有一些CDC数据。现在我正在尝试从Kafka下沉到Elasticsearch。这是我到目前为止所做的: 第 1 步 - 在 Kubernetes 中部署 Elasticsearch(成功) 我在
我正在利用 wepay/kakfa-connect-bigquery:2.5.0 并使用它将表复制到 BigQuery。对于某些主题,在写入 BigQuery 以及之后的数据时经常会遇到错误
我想在独立模式下运行一个kafka连接接收器以进行测试,因为尽管有一台强大的计算机,但我不想不必要地过度工作...... 我有这个配置...
自上次偏移提交以来任务没有生成任何记录,或者每个记录都已被过滤掉
我正在执行一项在本地计算机上设置 jdbc kafka 连接器的任务。我一步一步完成了设置: ➜ bin ./zookeeper-server-start.sh ../config/zookeeper.properties ➜ 垃圾箱....
上下文:使用kafka connect 7.4.0从Postgres视图读取数据并写入另一个Postgres表。 一切都很好,但每当我通过其余 api 停止源连接器时,我总是得到:
无法找到或加载主类org.apache.kafka.connect.cli.ConnectStandalone
我正在尝试使用以下命令从 Ubuntu 运行程序将 Kafka 与 MQ 连接,但出现以下错误 错误: 无法找到或加载主类 org.apache.kafka.connect.cli。
我正在为 Kafka 连接编写 HTTP Sink 插件。其目的是为配置的 Kafka 主题中的每条消息发送 HTTP 请求。我想将消息发送到死信队列,以防 HTTP 重新...
Kafka Connect 如何帮助将 Avro 持久保存到数据库?为什么这是一个很好的设计方法?
根据此堆栈,Kafka Connect 将有助于防止在发布到 Kafka 并将 avro 消息保存到数据库时执行“两步提交”,并且它遵循“r...
是否可以配置Kafka Connect(Source)来生成逻辑删除记录? 我有一个记录“删除”事件的表。我可以将其填充到一个主题并编写一些代码来转发墓碑
升级到 Debezium Postgres Connector v2.0.1 导致架构不兼容问题
我有一个使用 Kafka、Debezium Connector for Postgres 和 Schema 注册表的应用程序。目前我正在运行 Debezium Connector 1.9.3 版本,一切运行良好。 最近,当我...
我有一个 mongodb->kafka connect->elasticsearch 端到端发送数据的 kafka-connect 流程,但有效负载文档是 JSON 编码的。这是我的 mongodb 源文档。 { "_id": "1541527535...