Apache Kafka Connect是Apache Kafka与其他数据系统之间可扩展且可靠的流数据的工具。 - https://kafka.apache.org/documentation.html#connect
如何在 Strimzi 创建的 Kafka Connect 中使用 io.apicurio.registry.utils.converter.AvroConverter?
我有一个 Kafka 集群,由 Strimzi 和 Apicurio Registry 部署,用于 Kafka 模式注册表。 我希望在 JDBC 接收连接器中使用 AvroConverter 将数据从 Kafka 接收到 TimescaleDB。 这里...
如何正确使用 Spark -> Kafka -> JDBC sink connector with Avro?
我有一个简单的 Spark 应用程序生成 Kafka 消息 导入 org.apache.spark.sql.SparkSession 导入 org.apache.spark.sql.functions.{col, struct} 导入 org.apache.spark.sql.avro.functions.to_avro
JDBC sink connector如何找到对应的AVRO schema?
我在 Apicurio Registry 有一个 AVRO 模式。 我正在尝试使用 Apicurio Registry 的 Confluent 兼容 REST API 端点。当前使用 Content ID 6 检索 curl --location 'http://apicurio-
JDBC sink connector如何找到对应的AVRO schema?
我在 Apicurio Registry 有一个 AVRO 模式。 我正在尝试使用 Apicurio Registry 的 Confluent 兼容 REST API 端点。当前使用 Content ID 6 检索 curl --location 'http://apicurio-
java.lang.ClassNotFoundException:Kafka 连接中的 io.apicurio.registry.serde.avro.AvroKafkaSerializer
我有一个 Kafka 集群,由 Strimzi 和 Apicurio Registry 部署,用于 Kafka 模式注册表。 我希望在 JDBC 接收连接器中使用 AvroConverter 将数据从 Kafka 接收到 TimescaleDB。 这里...
Kafka Connect FilePulse 在 CSV 文件列上应用过滤并加载到 Kafka 主题中
我正在使用 FilePulse 连接器将 CSV 文件内容加载到 Kafka 主题中,并且工作正常。我的 CSV 文件内容示例如下; `reference_key,service_type,event_timestamp,cell_id,sit...
我想运行一个本地 Kafka Connect (KC) 集群,它将运行多个不同的“源”和“接收器”连接器。目前在测试配置中,我缩放了 KC 集群...
Kafka 连接 Debezium Mongo 源连接器无法连接到 MongoDb 实例
以下命令用于在Docker中设置Zookeeper、Kafka、Schema-registry、Kafka-connect和MongoDb。 Kakfa-connect 集群似乎没有连接到 MongoDb,它一直在
Kafka:无法使用 MySQL 连接器 Kafka 中的 where 子句运行查询
JSON 文件: { “名称”:“mysql-jdbc”, “配置”:{ “connector.class”:“io.confluent.connect.jdbc.JdbcSourceConnector”, “连接。你...
Apache Ignite Kafka Streamer 不工作,获取 java.lang.NoClassDefFoundError:无法初始化类
遵循此处提到的说明: https://ignite.apache.org/docs/latest/extensions-and-integrations/streaming/kafka-streamer 但仍然出现以下错误: WorkerSinkTask{id=my-ignite...
Kafka S3 Sink Connector 在将文件提交到 S3 之前是否分配临时文件或堆外内存?
我正在研究 Kafka 连接 S3 接收器源代码,以确定它是否在上传到 S3 之前创建临时文件。 我发现记录被附加到内存队列 Que...
我有一个从 MongoDB 获取数据的 Kafka 源连接器。数据本身是一个简单的 JSON,在数据库中看起来像这样: { “_ID” : { “日期”:&q ...
TopicAuthorizationException 当 kafka connect 尝试访问偏移量存储主题时。 JKS 文件作为秘密卷安装在 kubernetes 上
在 kubernetes 上部署 kafka connect worker。 Helm 图表用于部署。 Kafka 集群是 SSL 加密的,所以我们使用 JKS keystore 和 truststore。 Kafka 连接无法访问偏移量
在 MSK 连接器中更改 client.dns.lookup
我有一个 AWS MSK 托管连接器,它似乎使用此默认配置 - client.dns.lookup = use_all_dns_ips 我想更改此值但是当我尝试在连接器中设置 client.dns.lookup
我是新来的,这是我的第一个问题。我希望它不是重复的,我还没有找到我的问题的答案。我主要遵循教程(Medium/Youtube)。我也试过使用官方文档,...
MongoSinkConnector 无法启动“配置的文档 ID 策略所有记录都需要具有必须是映射或结构的键”
Mongo Sink 连接器启动失败,出现以下错误: 使用配置的文档 ID 策略,所有记录都需要有键,键必须是映射或结构。 记录密钥字符串...
debezium - 是否有解决“数据库历史主题丢失”错误的解决方案
为数据库中的每个表单独创建了一个 debezium 连接器。连接到同一数据库的连接器共享相同的 database.history.kafka.topic 和 database.server.name。还有
kafka-connect 在以分发模式打开时出现如下错误。我已经增加了一些 connect-distributed.propertieses 参数,如下所示。我必须在发行版中打开连接...
Kafka Connect (Docker) 的问题取消了飞行中的 API 请求
我正在使用以下 docker compose 片段: 版本:'3' 服务: 卡夫卡连接: 图片:confluentinc/cp-server-connect:latest 重启:总是 主机名:kafka-connect 包含...
Kafka connect JDBC sink connector for Multi tenant app
我计划在多租户应用程序中使用 kafka 连接,如何根据消息有效负载或主题名称更改 jdbc 接收器连接器中的连接 url。因此它可以动态更改数据库,或任何建议...