apache-kafka 相关问题

Apache Kafka是一个分布式流媒体平台,用于存储和处理高吞吐量数据流。

Kafka Connect 堆空间不足

启动 Kafka Connect(独立连接)后,我的任务在启动后立即失败: java.lang.OutOfMemoryError:Java堆空间 在 java.nio.HeapByteBuffer.(HeapByteBu...

回答 6 投票 0

从单代理、单主题中的特定分区进行消费

我正在使用具有单个代理和单个主题(3 个分区)的 Kafka 设置。我希望特定的使用者实例仅读取来自本主题内指定分区的消息。 铜...

回答 1 投票 0

使用Kafka Connect时如何转换所有时间戳字段?

我正在尝试将所有时间戳字段转换为格式为 yyyy-MM-dd HH:mm:ss 的字符串类型。 要转换多个字段,我必须为每个字段单独创建一个转换。 ... “传送...

回答 2 投票 0

使用 ErrorHandlingDeserializer 自定义日志和增量指标

我正在使用最新版本的 Spring Kakfa,3.1.3,似乎异常处理方面最近的一些变化让我感到困惑。 当毒丸进来时,我只想以特定方式登录,然后

回答 1 投票 0

Kafka日志(消息)删除似乎不起作用

我承认许多类似的问题(例如:https://github.com/wurstmeister/kafka-docker/issues/366),但我的问题仍然存在。因此 上下文:我有一个用例,其中需要大量 http post...

回答 1 投票 0

KafkaListener 反序列化到 Avro POJO 类时出现“Caused by: org.springframework.messaging.converter.MessageConversionException”

我正在使用 Spring Boot 构建一个 Kafka 监听器/消费者,它消耗来自主题的 Avro 数据。 这是一些属性 spring.kafka.properties.spec.avro.reader=true spring.kafka.consumer.

回答 1 投票 0

在Cloudera Data Platform CDP公有云中使用Nifi对Kafka进行读/写

Nifi 和 Kafka 现已在 Cloudera Data Platform、CDP 公共云中可用。 Nifi 擅长与一切对话,而 Kafka 是主流消息总线,我只是想知道: 最小的是什么

回答 1 投票 0

Kafka 消费者未分配给任何分区

我正在每半小时运行一次的服务中调用该课程。我只想从主题列表中获取最后一条消息。 但随机我没有得到最新的记录。相反,它显示了

回答 2 投票 0

Kafka 消费者在暂停和恢复后不消费消息

我正在使用这个node-rdkafka库来实现具有消费者暂停和恢复方法的节点kafka来处理背压。我创建了一个小演示,我可以在其中暂停消费者并......

回答 2 投票 0

使用 ClickHouse Kafka Connect Sink 处理 DELETE 操作

我正在开发一个与使用 Kafka Connect 构建流式变更数据捕获相关的项目。变化的来源是MySQL,然后将它们发送到相应的Kafka主题,然后应用...

回答 1 投票 0

.NET 测试容器中的 Kafka + Schema 注册表:无法解析 kafka 主机

我正在尝试通过 TestContainers 设置 Kafka 和 Schema 注册表。 我起草了一个设置,可以成功地启动两个容器,但很难从容器外部消耗......

回答 1 投票 0

Spark 2.1 结构化流 - 使用 Kafka 作为 Python 源 (pyspark)

使用 Apache Spark 版本 2.1,我想使用 Kafka (0.10.0.2.5) 作为 pyspark 的结构化流的源: kafka_app.py: 从 pyspark.sql 导入 SparkSession 火花=SparkSession.builder。

回答 1 投票 0

Kafka SSL 连接被拒绝:没有更多信息

我正在努力在 Kafka 服务器和 Spring(启动)Kafka 客户端之间设置 Kafka SSL。 我有一个使用 SSL 的工作 Kafka 服务器,如下所示:http://kafka.apache.org/documentation/#securi...

回答 3 投票 0

在 Confluence Control Center UI 中生成 Avro 消息

要开发数据传输应用程序,我需要首先定义键/值 avro 模式。在定义 avro 模式之前,生产者应用程序尚未开发。 我克隆了一个主题及其键/值 avro

回答 2 投票 0

从 Kafka 读取数据到 AWS Redshift 的最佳实践

将数据从 Kafka 集群移动到 Redshift 表的最佳实践是什么? 我们有连续的数据到达 Kafka,我想将其写入 Redshift 中的表(它不必位于...

回答 2 投票 0

UPDATE CASE 用法,每行要更新的字段都不同

背景: 我有一个 mysql 版本 8 表,如下所示。 编号 |字段1 |字段2 | ...... |领域10 |时间戳 _______________________________________________________________ fieldN 是 float

回答 2 投票 0

在 Windows 机器上使用 KRaft 启动 Kafka(3.4.0) 时出现错误

我正在尝试按照此处的文档使用 KRaft 启动 Kafka - https://kafka.apache.org/quickstart 在 Windows 计算机上。 注意-相同版本的kafka与zookeeper完美配合 步骤 1 -

回答 2 投票 0

php mysql UPDATE CASE 用法,其中每行要更新的字段都不同

背景: 我有一个 mysql 版本 8 表,如下所示。 编号 |字段1 |字段2 | ...... |领域10 |时间戳 _______________________________________________________________ fieldN 是 float

回答 1 投票 0

Kafka Consumer和Producer相关问题>>如何使其并行运行

如何利用 Apache Kafka 同时处理来自多个客户的数据流,确保每个客户的 10 条记录被并行消费,并由一台 Tomcat 服务器充当

回答 1 投票 0

kafka 消费者应用程序中的自动缩放

我是卡夫卡新手。并对 kafka 及其配置有了基本的了解。 我的问题是: 如果消费者应用程序在消费者组中有2个消费者。现在,如果我自动缩放(增加)pod,

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.