amazon-kinesis 相关问题

Amazon Kinesis是一种全面管理的服务,用于大规模实时处理流数据。

Cloudwatch 订阅筛选器未摄取到 Kinesis Data Stream

我正在尝试使用订阅过滤器将 Cloudwatch 日志转发到 Kinesis Data Stream。 即使拥有广泛的权限,由于某种原因,我也无法在 Kinesis 中看到任何记录。 我可以看到我...

回答 1 投票 0

即使有足够的分片,Kinesis ProvisionedThroughputExceededException

我们在 Kinesis 流上写入数据时一直面临 ProvisionedThroughputExceededException 问题。 情况1: 我们使用单个 m4.4xlarge(16 核,64GB mem)实例在流 p 上写入数据...

回答 3 投票 0

从 Confluence Source Connector 记录更多数据

我在 AWS 中安装了 Kinesis Confluence Connector 插件,以将我的 Kinesis Stream 与我的 MSK 集群连接起来。它正在工作,但我在 Cloudwatch 中看到的日志记录不是很有帮助: [工人-

回答 1 投票 0

使用 Amazon Kinesis 客户端时,网站在高负载期间崩溃,打开连接数出现问题

因此,当使用 AmazonKinesisFireHoseClient 将记录放入 kinesis 时,我的网站在高负载期间崩溃。 我没有收到任何异常记录,它只是死掉了,您需要重新启动应用程序......

回答 2 投票 0

putRecords 后 AWS Kinesis 上没有数据

免责声明:这是我第一次使用 AWS Kinesis,因此我的预期可能不正确。 我有一个非常简单的 AWS Lambda 函数,可以将数据插入到 Kinesis 中。 API 重新...

回答 1 投票 0

Kinesis 序列号在流中唯一还是每个分片和每个分区键唯一?

文档在这方面是冲突的。 PutRecords 文档说: SequenceNumber 参数是分配给放置记录的标识符,对于流中的所有记录都是唯一的。 ...

回答 1 投票 0

在 AWS 云中处理和存储实时 MQTT 数据的最佳方式

我需要接收实时 MQTT 数据,将它们存储在 AWS 云中,并在单独的基于 Web 的应用程序中使用这些数据提供见解。在这个要求中,是不是更好...

回答 1 投票 0

Flink Kinesis Consumer 上的水印策略

我正在研究使用 Flink 和 Kinesis 流作为源。我想使用事件时间水印。 计划在 AWS 托管的 Flink (Kinesis Analytics) 平台上运行它。 看着...

回答 1 投票 0

AWS Kinesis Boto3 IAM 权限

假设我有两个流,staging 和 prod。 我还有一个使用 boto3 与 Kinesis 交互的 AWS Lambda 函数。这里的约束是 Lambda 应该只能交互...

回答 1 投票 0

DynamoDB CDC 事件排序 - Kinesis Data Streams 与 DynamoDb 流

阅读 DynamoDB cdc 流的文档,有一个表格列出了使用 Kinesis Data Streams 和 DynamoDB 流之间的一些差异。 “记录排序”&qu...

回答 1 投票 0

在物联网传感器数据的 DynamoDB Streams 和 Kinesis Streams 之间进行选择

我有一个由 250 个支持 Wifi 的物联网传感器组成的队列,用于传输重量数据。每个设备每秒采样一次。我在选择 AWS DynamoDB Streams 与 AWS Kinesis Streams 之间寻求帮助...

回答 3 投票 0

xray 看不到 kinesis 应用程序

我有一个 scala kinesis 应用程序,我正在尝试使用 xray 对其进行检测。 它在本地运行良好(在运行 xray 守护程序时)但它在 AWS 中没有显示任何痕迹。它可以完全访问 xray,...

回答 1 投票 0

Kinesis Firehose 的动态分区

我正在尝试在 AWS CLI 上创建一个 Kinesis 传输流,根据字段 created_at 对输出进行分区,这是一个字符串。我收到以下错误消息: 发生错误(

回答 1 投票 0

s3 到 aws kenesis 到 opensearch

我有一个 s3 桶,里面有一些 10M 的对象,所有这些对象都需要处理并发送到 opensearch。为此,我正在评估 kenisis 是否可以用于此目的。 网上的解决方案似乎暗示使用

回答 2 投票 0

订阅分片后无法从kinesis-data-stream读取数据

我有一个运动数据流,其中 1 个分片只有一些数据,我目前正在通过订阅我的 nodejs 应用程序中的分片从中读取数据,但我无法这样做,因为它给了我这个

回答 0 投票 0

Spark Structured Stream - Kinesis 作为数据源

我正在尝试使用 psypark 结构化流来消耗运动数据流记录。 我正在尝试在 aws 胶水批处理作业中运行此代码。我的目标是使用检查点并将检查点和数据保存到...

回答 1 投票 0

在两个不同的翻滚时间窗口中从 Kinesis 数据流(或任何数据流)读取

我有一个 Kinesis 数据流,我正在使用滚动窗口使用数据。我有两个用例,一个是在 5 分钟的翻滚窗口中使用数据,另一个是 1 分钟的翻滚窗口......

回答 0 投票 0

AWS kinesis 中的“租赁”到底是什么

我正在尝试使用 Kinesis 客户端库来使用来自 Kinesis 数据流的数据。我正在尝试熟悉 Kinesis 的概念。它没有在哪里谈论 Lease 概念,而是直接跳到我...

回答 2 投票 0

AWS Kinesis Firehose Delivery 流发送 protobuf

我看到这个关于 Amazon Kinesis Firehose 到 S3 with Protobuf 数据的 SO,这是 5 年前被问到的。 只是想知道 Amazon Kinesis Data Firehose 是否有任何改变,现在是否可以改变

回答 0 投票 0

对多个事件源使用 RequestStreamHandler 并在批处理失败时拆分

我有一个用例(场景 1),我有一个 lambda,它侦听来自 DynamoDB 变化的运动流,如果在处理我返回的那批运动流中的任何记录时出现错误...

回答 0 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.