Apache Kafka是一个分布式流媒体平台,用于存储和处理高吞吐量数据流。
启动 Kafka Connect(独立连接)后,我的任务在启动后立即失败: java.lang.OutOfMemoryError:Java堆空间 在 java.nio.HeapByteBuffer.(HeapByteBu...
我正在使用具有单个代理和单个主题(3 个分区)的 Kafka 设置。我希望特定的使用者实例仅读取来自本主题内指定分区的消息。 铜...
我正在尝试将所有时间戳字段转换为格式为 yyyy-MM-dd HH:mm:ss 的字符串类型。 要转换多个字段,我必须为每个字段单独创建一个转换。 ... “传送...
使用 ErrorHandlingDeserializer 自定义日志和增量指标
我正在使用最新版本的 Spring Kakfa,3.1.3,似乎异常处理方面最近的一些变化让我感到困惑。 当毒丸进来时,我只想以特定方式登录,然后
我承认许多类似的问题(例如:https://github.com/wurstmeister/kafka-docker/issues/366),但我的问题仍然存在。因此 上下文:我有一个用例,其中需要大量 http post...
我正在使用 Spring Boot 构建一个 Kafka 监听器/消费者,它消耗来自主题的 Avro 数据。 这是一些属性 spring.kafka.properties.spec.avro.reader=true spring.kafka.consumer.
在Cloudera Data Platform CDP公有云中使用Nifi对Kafka进行读/写
Nifi 和 Kafka 现已在 Cloudera Data Platform、CDP 公共云中可用。 Nifi 擅长与一切对话,而 Kafka 是主流消息总线,我只是想知道: 最小的是什么
我正在每半小时运行一次的服务中调用该课程。我只想从主题列表中获取最后一条消息。 但随机我没有得到最新的记录。相反,它显示了
我正在使用这个node-rdkafka库来实现具有消费者暂停和恢复方法的节点kafka来处理背压。我创建了一个小演示,我可以在其中暂停消费者并......
使用 ClickHouse Kafka Connect Sink 处理 DELETE 操作
我正在开发一个与使用 Kafka Connect 构建流式变更数据捕获相关的项目。变化的来源是MySQL,然后将它们发送到相应的Kafka主题,然后应用...
.NET 测试容器中的 Kafka + Schema 注册表:无法解析 kafka 主机
我正在尝试通过 TestContainers 设置 Kafka 和 Schema 注册表。 我起草了一个设置,可以成功地启动两个容器,但很难从容器外部消耗......
Spark 2.1 结构化流 - 使用 Kafka 作为 Python 源 (pyspark)
使用 Apache Spark 版本 2.1,我想使用 Kafka (0.10.0.2.5) 作为 pyspark 的结构化流的源: kafka_app.py: 从 pyspark.sql 导入 SparkSession 火花=SparkSession.builder。
我正在努力在 Kafka 服务器和 Spring(启动)Kafka 客户端之间设置 Kafka SSL。 我有一个使用 SSL 的工作 Kafka 服务器,如下所示:http://kafka.apache.org/documentation/#securi...
在 Confluence Control Center UI 中生成 Avro 消息
要开发数据传输应用程序,我需要首先定义键/值 avro 模式。在定义 avro 模式之前,生产者应用程序尚未开发。 我克隆了一个主题及其键/值 avro
从 Kafka 读取数据到 AWS Redshift 的最佳实践
将数据从 Kafka 集群移动到 Redshift 表的最佳实践是什么? 我们有连续的数据到达 Kafka,我想将其写入 Redshift 中的表(它不必位于...
背景: 我有一个 mysql 版本 8 表,如下所示。 编号 |字段1 |字段2 | ...... |领域10 |时间戳 _______________________________________________________________ fieldN 是 float
在 Windows 机器上使用 KRaft 启动 Kafka(3.4.0) 时出现错误
我正在尝试按照此处的文档使用 KRaft 启动 Kafka - https://kafka.apache.org/quickstart 在 Windows 计算机上。 注意-相同版本的kafka与zookeeper完美配合 步骤 1 -
php mysql UPDATE CASE 用法,其中每行要更新的字段都不同
背景: 我有一个 mysql 版本 8 表,如下所示。 编号 |字段1 |字段2 | ...... |领域10 |时间戳 _______________________________________________________________ fieldN 是 float
Kafka Consumer和Producer相关问题>>如何使其并行运行
如何利用 Apache Kafka 同时处理来自多个客户的数据流,确保每个客户的 10 条记录被并行消费,并由一台 Tomcat 服务器充当
我是卡夫卡新手。并对 kafka 及其配置有了基本的了解。 我的问题是: 如果消费者应用程序在消费者组中有2个消费者。现在,如果我自动缩放(增加)pod,