Amazon Kinesis是一种全面管理的服务,用于大规模实时处理流数据。
Kinesis Spark流式传输读取记录:在独立群集中运行
我在java中有spark spark应用程序,它从kineses流(1 shard)读取记录并在此之后进行一些处理。当我在spark local模式下运行我的应用程序时,它能够接收...
我创建了一个由DynamoDB流触发的Lambda函数。我正在尝试处理Dynamodb事件,并在一些转换后将它们放入Kinesis流中。 Lambda已经完整......
如何从kinesis流中获取休止端点并获取一些数据?是否有可能从Kinesis击中休息终点?
将onpremise日志转发给Kinesis Firehose
对于我的应用程序日志记录,我计划将日志从我的内部部署服务器转发到AWS Kinesis firehose。我正在尝试使用Logstash和log-stash-output-plugin https://github.com/samcday / ...
使用针对AWS API Gateway / Kinesis的Spring Cloud Contract执行合同测试
我想在REST API(使用AWS API Gateway)上执行合同测试,该API将事件提供给Kinesis。我一直在考虑Spring Cloud Contract来执行这种类型的合同测试。 ...
Java KCL SPark Streaming无法导入org.apache.spark.streaming.kinesis
大家好,我正在尝试在Streaming Spark工作中执行KCL,我已经创建了第一个草稿项目,并且我的依赖项可以导入一些包。但是有......
Aws KInesis Terraform - 如何将数据流连接到数据Firehose
我想创建使用terraform,Kinesis数据流和数据firehose,并连接它们(作为管道)。当我使用UI时,当我去firehose时,我可以去source-> Kinesis流,并选择...
获取错误区域名称[us-west-1]无效[Kinesis流与spark整合]
我已经设置了spark并试图运行spark submit命令使用python示例为wordcount在这里找到下面是我为spark提交的命令: - bin / spark-submit --packages org.apache.spark:...
如何将AWS Kinesis Video Stream GetMedia API输出解码为mp3 / wav?
我现在使用GetMedia API通过AWS Connect服务将数据提取到(Kinesis视频流)KVS我能够提取有效负载但是如何将此输出转换为mp3 / wav?我想要摄取这个......
Boto3 Kinesis视频GetMedia和OpenCV
我正在尝试使用Boto3从kinesis获取视频流,然后使用OpenCV显示源并同时将其保存到文件中。获取签名URL然后获取Getmedia的过程...
如何从Kinesis Analytics(SQL)中格式化为字符串的json内部选择数据
我有一个kinesis数据流,以这种格式传递数据:created_at:timestamp payload:varchar(6000)有效载荷元素的简化示例{“version”:2.0,“data”:{...
在AWSKinesisRecorder(此处)中,我们如何检查我们的记录是否已提交到服务器/是否已到达AWS或检查我们是否在磁盘上有尚未提交的记录? kinesisRecorder ....
我正在开发一个Web应用程序,用于捕获来自网络摄像头的视频并将流保存到Amazon Kinesis。我想出的第一个方法是getUserMedia / mediaRecorder / XMLHttpRequest ......
如何正确删除AWS ElasticSearch索引以释放磁盘空间
我正在使用AWS ElasticSearch,并从AWS Kinesis Firehose传输流向其发布数据。在Kinesis Firehose设置中,我将ES索引的轮换周期指定为1个月。每个月 ...
在批处理模式下使用消息时,Spring Aws Kinesis Binder ProvisionedThroughputExceededException
我正在使用批处理模式从kinesis流中提取记录。我们正在使用spring aws kinesis binder。大多数情况下,我们无法从流中提取消息。我们只有一段时间......
在Spark Streaming中禁用适用于AWS Kinesis的CloudWatch
我想知道如果有可能吗?这是代码:numStreams我通过使用AmazonKinesisClient API得到它//创建Kinesis DStreams列表 > streamsList = ...
我对在./src/main/demo中使用Kinesis Video Stream Run DemoAppMain.java时的指令感到困惑,其中JVM参数设置为-Daws.accessKeyId = {YourAwsAccessKey} -Daws.secretKey = {...
aws kinesis analytics - 如何为目标流定义分区键
在使用kinesis分析时,如何在输出记录流式传输到目标时指定分区键?
如何在ASP.Net Core 2.2 Web Api应用程序中连接到Amazon Kinesis Firehose
我是AWS的初学者,我想使用ASP.Net Core 2.2 Web Api应用程序中的Amazon Kinesis将示例数据发送到s3存储桶。但我无法发送数据。以下是我的尝试。步骤我......
我使用spring kinesis binder在批处理模式下使用消息有时我无法使用来自流的消息。这不是一直没有发生[ShardConsumer {...的记录