有没有办法将AWS Cloudwatch日志输入Kafka主题

问题描述 投票:0回答:1

我正在努力寻找这方面的任何方向。我有一个内部系统可以处理日志以进行监控。我希望从 Cloudwatch 发送错误并发布到我的监控系统将从中读取的 kafka 主题上。

Cloudwatch 是否支持此设置,如果支持如何?这是正确的架构方法吗?

我的 AWS 之旅还处于早期阶段。

amazon-web-services amazon-cloudwatch
1个回答
0
投票

要将 AWS CloudWatch Logs 馈送到 Kafka 主题中,您确实可以通过在 CloudWatch Logs 中创建订阅筛选器来利用 Amazon Kinesis Data Firehose。这种方法可以将日志数据有效地传输和转换到 Kafka 集群中。

以下是该过程的详细概述:

  1. CloudWatch Logs:首先,确保您的日志收集在 CloudWatch Logs 中。这是设置日志订阅过滤器的先决条件。

  2. 日志订阅过滤器:利用 CloudWatch Logs 中的日志订阅过滤器功能。这允许您将账户中多个或所有日志组的实时日志事件传送到 Amazon Kinesis Data Firehose 等服务。有关更多详细信息,请参阅 AWS 日志订阅筛选器文档

  3. Amazon Kinesis Data Firehose:设置 Kinesis Data Firehose 传输流,将您的 Kafka 集群指定为目标。在此设置期间,您可以选择配置流,以便在将传入日志数据转发到您的 Kafka 主题之前对其进行任何必要的转换。

这些步骤提供了一种简化的方法,可将日志从 CloudWatch 转发到 Kinesis Data Firehose,然后转发到 Kafka 集群。

参考资料/文档:

© www.soinside.com 2019 - 2024. All rights reserved.