amazon-kinesis 相关问题

Amazon Kinesis是一种全面管理的服务,用于大规模实时处理流数据。

如何从 PARSE_JSON 中提取特定的键、值是 redshift

假设我期望以下 JSON: { “核心价值” } 我想创建一个将键显示为列的物化视图。数据来自 Kinesis Streaming Data。我

回答 1 投票 0

起始位置和检查点的组合在 Kinesis Data Streams 中如何工作?

我正在将 Glue Streaming 作业与 Kinesis Data Stream 结合使用。我希望我的胶水作业始终从最后一个未处理的记录中读取(以防作业出现故障并重新启动)。 相关代码- df =glueContext.

回答 1 投票 0

如何使用 Python boto3 客户端正确读取和检查具有多个分片的 Kinesis 流?

AWS Kinesis 似乎是为与 Lambda 一起使用而设计的,其分片的概念与带宽和延迟相关 - 但我试图从非 Lambda 服务中读取它,这是一个长期运行的进程......

回答 1 投票 0

将 kinesis 流添加到 DynamoDB 全局表中

我可以手动将运动流添加到每个区域的 DynamoDB 全局表中。我将流保留为特定于区域的流。使用 Cloudformation 模板添加时出现错误“资源

回答 1 投票 0

处理 AWS Kinesis 流中的所有数据是否需要从多个分片读取?

我正在使用 Python 的 boto3 客户端处理来自 Kinesis 流的记录,并且我能够找到的每个文档都仅从第一个分片读取。代码通常如下所示: 回复...

回答 1 投票 0

如何从本地设备网络摄像头(例如笔记本电脑或PC)录制和流式传输视频并将该视频存储在AWS S3中?

我目前正在 ReactJS 中开发一个 Web 应用程序,用户可以使用网络摄像头记录会话并将其流式传输到 AWS 基础设施。我遇到过带有 WebRTC 的 Amazon Kinesis Video Streams。什...

回答 1 投票 0

为什么我在向 Kinesis 写入大量记录时会收到 ProvisionedThroughputExceededException?

我同时使用 Lambda 和 Kinesis 来验证和插入批量记录。我是 Kinesis 新手,所以我什至不确定我在寻找什么,或者我是否配置错误。我有一个非常...

回答 1 投票 0

AWS Lambda 未向 AWS SQS DLQ 发送错误消息

我正在尝试通过 terraform 创建一个由 Kinesis 触发的 lambda,并且她在失败时的目的地将是 AWS SQS。 我创建了 lambda 并配置了源和目标 当我发送...

回答 4 投票 0

并行化因子:AWS Kinesis 数据流传输至 Lambda

我对ParallelizationFactor的概念很困惑。 我的理解 https://stackoverflow.com/a/57534322/13000229 过去,一个 KDS 分片只能向一个 Lambda 实例发送数据/

回答 1 投票 0

添加新分片时租赁表不会更新,导致 KCL 中的工作人员过时

我正在使用 amazon-kclpy 版本“2.1.3”(使用 MultiLangDaemon 的 python 库)。 根据 aws 文档(此处),当我为流添加新分片或新工作人员(

回答 1 投票 0

AWS 允许不同账户访问 kinesis 流

我在我的帐户中创建了一个运动流,我需要向另一个根帐户中的另一用户提供访问权限。 我没有找到任何方法为流添加策略,所以如何pro...

回答 2 投票 0

Logstash 用箭头替换冒号

我的目标是从 kinesis 读取数据并在 s3 上上传 csv 文件,但在 csv 文件中箭头(=>)来自 json 数据,而不是冒号(:) Logstash 配置文件 输入 { 运动{ 应用程序名称...

回答 1 投票 0

每个运动分片有多个消费者

我读到每个 kinesis 流可以有多个消费者应用程序。 http://docs.aws.amazon.com/kinesis/latest/dev/developing-consumers-with-kcl.html 然而,我听说每个s只能有一个消费者...

回答 3 投票 0

关于减少 Amazon Managed Service for Apache Flink 中 Flink 应用程序更新的影响的问题

我们通过 Amazon Managed Service for Apache Flink 部署了 Flink 应用程序。整个应用程序在运行时按预期执行。但我们在维持吞吐量方面面临挑战...

回答 1 投票 0

通过 QLDB 流从 AWS Kinesis 读取流数据时出现 Amazon.IonDotnet.Internals.Text.InvalidTokenException 错误

我有一个正在运行的解决方案,在 AWS QLDB 上执行一些操作。所有工作负载均使用 .NET 开发。到目前为止没有问题... 现在我只是想流式传输 QLDB 数据。 QLDB 中的数据通过 AWS 进行流式传输

回答 1 投票 0

哪种 AWS 数据流服务(Kinesis 或 MSK)更适合以 Lambda 为中心的中小型工作负载?

我所在的公司正在尝试利用 Kinesis 或托管 Kafka (Amazon MSK) 作为消息队列和流服务来扩展部分工作负载。 我们所有的系统都在运行...

回答 1 投票 0

Zeppelin 笔记本中出现错误,指出无法创建接收器

我正在尝试在 Apache Flink 中处理后从 1 个 KDS 写入另一个 KDS。我使用 Zeppelin 笔记本通过以下查询创建接收器表: %flink.ssql 创建表 seller_revenu...

回答 1 投票 0

使 kinesis 流接受多个消费者

我有一个流“dest”,我想要两个消费者,并且两个流应该消耗相同的消息。 但是,如果一个流消耗了该消息,那么该消息就会丢失并且不会发送到...

回答 2 投票 0

无法从kinesis下载视频剪辑

我使用下面的代码来下载该剪辑。我已成功收到回复,我正在尝试下载视频,但无法下载。 const CompleteUrl = url + "/getC...

回答 3 投票 0

用于 Athena 查询的 AWS Glue 爬网程序未显示我在 s3 存储桶中拥有的所有记录

我有一个 C# 应用程序,用于将审核记录记录到 Kinesis Firehose,以便将这些记录放入 S3 存储桶中。这是完美的,因为我可以看到 S3 存储桶中的文件。 我正在使用动态部分...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.