kafka-consumer-api 相关问题

用于与Apache Kafka使用者API相关的问题

Kafks consumer.poll 没有返回数据

我有两个卡夫卡(2.11-0.11.0.1)经纪人。主题的默认复制因子设置为 2。生产者仅将数据写入零分区。 我已经安排了运行任务周期的执行者......

回答 2 投票 0

使用选项kafka.bootstrap.servers消耗来自spark-streaming-kafka-0-10的消息

我正在使用CDH的kafka 1.0.1-kafka-3.1.0-SNAPSHOT(hadoop的cloudera发行版)在我的batch-1边缘服务器上,我可以生成以下消息:kafka-console-producer --broker-list batch- 1:9092 - ...

回答 1 投票 1

使用Kafka消费者池是否正确?

有时,我需要从特定分区读取具有相同主题的特定偏移的记录。我每次都可以创建新的kafka消费者。但是,我可以创建消费者池并在...中使用它

回答 1 投票 0

Logstash和kafka

我在我的服务器机器上运行单节点kafka。我使用以下命令创建主题“bin / kafka-topics.sh --create --zookeeper localhost:2181 --rerelication-factor 1 --partitions 1 --topic ...

回答 3 投票 1

如何在Kafka的镜像集群中维护客户偏移?

假设我有两个Kafka集群,我正在使用镜像制造商将主题从一个集群镜像到另一个集群。我理解消费者有一个嵌入式生产者来提交__consumer-offset的偏移...

回答 1 投票 3

Apache Kafka中的分区数与生产者吞吐量

分区数量会对Kafka的生产者吞吐量产生影响吗? (我知道分区数是消费者方面并行度的上限,但是它会影响......

回答 1 投票 1

是否可以在分区数量上扩展消费者任务?

我们的消费者中存在性能问题。更准确地说,在消息中完成了什么。通常,我们获得2000行的文件,分为6000个Kafka事件。我们的主题X是......

回答 1 投票 0

Kafka客户端poll()在收到每条消息后抛出EOFError

我正在使用我在Confluent github中找到的示例客户端轮询代码的一个略微变体:c = Consumer({'bootstrap.servers':'localhost:9092','group.id':'devops','auto.offset .reset':'最早'})...

回答 1 投票 0

从kafka消费者那里读取数据后如何将数据存储到特定目录中?

我有一个Kafka主题,我需要使用使用者来读取JSON数据,但基于数据中的特定标记,我需要将其存储在驱动器的不同目录中。我该如何实现这一目标?能够 ...

回答 1 投票 0

何时使用ConcurrentKafkaListenerContainerFactory?

我是kafka的新手,我浏览了文档,但我什么都听不懂。有人可以解释何时使用ConcurrentKafkaListenerContainerFactory类?我用过......

回答 2 投票 1

如何在Kafka 2中启用服务器主机名验证?

这是我的server.properties:listeners = PLAINTEXT:// localhost:9092,SSl:// localhost:9093 ssl.client.auth = required ssl.keystore.location = / home / xrobot / kafka_2.12-2.1.0 / certificate / server.keystore.jks ...

回答 1 投票 1

如何在5秒的定义时间窗口内实现Kafka Streams中的窗口化?

我正在尝试使用Kafka Streams实现窗口,其中我们从主题获得了一堆JSON格式的不同事务。对于每个事务ID,可以有多个提交(...

回答 1 投票 0

Kafka Connect - 通过JMX的指标

我正在使用融合的HDFS接收器连接器,并想知道如何通过JMX或REST API获取消费者属性。我检查了以下两个属性,但是,我不知道......

回答 1 投票 0

Kafka Consumer不是通过Java阅读主题数据

我正在向Kafka主题发送输入JSON数据。我可以使用下面的命令在kafka使用者中看到相同的JSON数据。 。\ bin \ windows \ kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic ...

回答 3 投票 2

Kafka - 简单的消费者/生产者设置不适用于不同的机器,但在本地工作

我使用以下简单的生产者/消费者教程安装和设置Kafka:https://kafka.apache.org/quickstart我有两台机器,两者都在使用Ubuntu。恢复问题:如果......

回答 1 投票 1

如何使用KStreams将数据从Kafka主题写入文件?

我正在尝试使用Java在Eclipse中创建一个KStream应用程序。现在我指的是互联网上为KStreams提供的字数统计程序并对其进行修改。我想要的是......

回答 1 投票 0

卡夫卡消费者需要长时间的民意调查

使用具有以下配置的Kafka / Java props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG,this.bootstrapServers); props.put(ConsumerConfig.GROUP_ID_CONFIG,this.groupId);道具....

回答 1 投票 0

kafka异步提交请求失败

我观察到kafka消费者滞后在几小时/几天后突然开始增加。检查日志后,我看到很多异常:org.apache.kafka.clients.consumer ....

回答 1 投票 0

微服务以及卡夫卡消费者集团

我们正在开发一个使用kafka的应用程序。应用程序的组件如下,我们有一个微服务,它获取请求并将消息推送到kafka主题....

回答 1 投票 0

读取kafka中特定时间戳的消息

我想从kafka的特定时间开始阅读所有消息。假设我想阅读0600到0800之间的所有消息来自Kafka的两个时间戳之间的请求消息建议解决方案......

回答 1 投票 1

© www.soinside.com 2019 - 2024. All rights reserved.