apache-kafka 相关问题

Apache Kafka是一个分布式流媒体平台,用于存储和处理高吞吐量数据流。

当我使用 Apache Kafka 重新启动应用程序时,我想再次使用相同的消息,但这需要几乎 1 分钟

我有一个控制台应用程序(消费者)。当我重新运行我的应用程序时,我想再次使用相同的消息。我已经设置:EnableAutoCommit = false 但每次我重新运行我的应用程序时......

回答 1 投票 0

Spark消费者使用docker运行时找不到kafka主题分区

当我提交连接到 kafka 代理的 Spark 应用程序时,它会执行 kafka 查询,但不会将任何内容返回到控制台。找不到主题分区。 这是我的日志

回答 1 投票 0

Spring Cloud Kafka Binder 设置指定消费者组的自动偏移重置不会更改默认值

我正在尝试从最新的可用偏移量中读取(没有为消费者组提交偏移量),所以我在属性中指定 spring.cloud.stream.bindings.process-in-0.group=测试组 spring.cloud.stream.

回答 1 投票 0

在一个 Spring Boot 应用程序中使用多个不同的 kafka 服务器的方法是什么?

我有一个 Spring Boot 应用程序,与 kafka 一起使用(假设 kafka#1) 现在我有一个案例,当我需要连接到外部服务(kafka#2)的 kafka 服务器以及明天另一个外部服务的

回答 2 投票 0

如何删除 Kafka 中的所有 ACLS

我尝试了以下方法,但它不起作用,尽管理论上,根据 acl 工具提示它应该起作用。 kafka-acls --bootstrap-server 服务器:9094 --command-config client-sasl.properties --r...

回答 1 投票 0

Spark 流 + kafka 集成,每 15 分钟从 kafka 读取一次数据,并使用 PySpark 存储最后读取的偏移量

使用PySpark,实现了Spark Streaming + Kafka集成。每次运行都会给出从 0 开始的偏移量。 需要解决2个问题: 最后 15 分钟的阅读流 从每个

回答 1 投票 0

Mirror Maker 2.0性能调优优化

我正在使用 Mirror Maker 2.0 将数据从一个集群复制到另一个集群。我已经完成了设置,并且在几个主题上运行良好。 当我们尝试增加...时,我遇到了问题...

回答 1 投票 0

从 Quarkus 中的 ConfigProperty 传递常量值

我需要在我的kafka主题前面传递一个前缀,因为我们在所有环境中使用相同的kafka。在 SpringBoot 中,它非常简单,如下所示: 本地楼层酒吧 hmlg_foo_bar 产品_foo_bar 在

回答 1 投票 0

监听 KafkaAvro 格式事件时 KafkaListener 出现 CompletionException 错误

我在使用 KafkaListener 侦听来自 Azure EventHub 的 Avro 格式事件时收到此 CompletionError。错误日志: java.util.concurrent.CompletionException: java.lang.NoClassDefFoundError...

回答 1 投票 0

DebeziumException“连接器之前在拍摄快照时停止,但现在连接器配置为绝不允许快照”

我正在分布式模式下使用debezium将mssql db的cdc事件推送到kafka主题。 命令:%KAFKA_HOME% in\window

回答 0 投票 0

需要使用 Kafka Connect 将小型 JSON 消息从 Kafka 移动到 HDFS,但不使用 Confluence 库(如果不是完全免费的话)

我想使用 Kafka Connect 将 JSON 消息从 Kafka 移动到 HDFS,然后移动到 Impala,仅使用开源库。 我试图了解是否可以使用 Kafka Conn 的 Confluence Sink 库......

回答 1 投票 0

Python kafka 以异步方式获取消费者消息

我正在使用kafka-python。我试图在 kafka_consumer 中定义消息以在后台运行异步。目前,在我看来,它是同步运行的,从而阻止了其他方法。 kafka-pyt 吗...

回答 1 投票 0

带有 Kafka 的 Filebeat 不会将缺少冒号的消息插入到中央日志记录中

我正在使用一个写入日志文件的应用程序。 Filebeat 使用 Kafka 模块将日志数据发送到中央日志服务器。我正在通过将

回答 1 投票 0

Kafka消费者在docker中收不到消息

我正在为 Kafka 创建一个非常基本的消费者/生产者设置。我正在使用 Zookeper 和 Kafka 以及 Docker compose。两者似乎都有联系,但当涉及到生产或消费时,没有什么……

回答 1 投票 0

将 strimzi kafka 集群从 0.36.1 升级到 0.40.0 后,普通监听器的主题授权失败

将strimzi kafka集群从0.36.1升级到0.40.0后。普通侦听器无法从端口 9092 连接到 kafka。它会抛出异常 在消费者、生产者中: “无法连接未授权访问...

回答 1 投票 0

当您没有 Java POJO 时,反序列化 avro 消息的预期结果是什么?

假设我有许多 avro 架构定义:(i) Event1、(ii) Event2、(iii) EventWrapper。 EventWrapper 是一个具有一个字段(称为有效负载)的记录,该字段是 Event1、Event2 的并集。 我也...

回答 1 投票 0

kafka如何使用write-behind?

据我了解,kafka 在写入数据时使用“write-behind”技术。这意味着它将首先将数据写入页缓存(作为脏页),并最终刷新这些脏页

回答 1 投票 0

无法本地连接到容器化 Kafka,错误:缺少 close-

我相信我遇到了一个似乎无法解决的配置问题。目前我有一个容器化的 Kafka 代理,我想在本地连接到它。然而,当我尝试连接时

回答 1 投票 0

连接kafka和cassandra时出现NoHostAvailableException

org.apache.kafka.connect.errors.ConnectException:无法连接到 Cassandra。 在io.lenses.streamreactor.connect.cassandra.source.CassandraSourceTask.start(CassandraSourceTask.scala:86) ...

回答 1 投票 0

Avro Schema,引用 json 文件中的枚举值

我正在为 kafka 主题定义一个带有 Enum 字段的 avro 模式。 avro 模式将上传到 kafka 模式注册表。 我在 github 存储库中有一个 json 文件,定义如下:

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.