我正在努力寻找这方面的任何方向。我有一个内部系统可以处理日志以进行监控。我希望从 Cloudwatch 发送错误并发布到我的监控系统将从中读取的 kafka 主题上。
Cloudwatch 是否支持此设置,如果支持如何?这是正确的架构方法吗?
我的 AWS 之旅还处于早期阶段。
要将 AWS CloudWatch Logs 馈送到 Kafka 主题中,您确实可以通过在 CloudWatch Logs 中创建订阅筛选器来利用 Amazon Kinesis Data Firehose。这种方法可以将日志数据有效地传输和转换到 Kafka 集群中。
以下是该过程的详细概述:
CloudWatch Logs:首先,确保您的日志收集在 CloudWatch Logs 中。这是设置日志订阅过滤器的先决条件。
日志订阅过滤器:利用 CloudWatch Logs 中的日志订阅过滤器功能。这允许您将账户中多个或所有日志组的实时日志事件传送到 Amazon Kinesis Data Firehose 等服务。有关更多详细信息,请参阅 AWS 日志订阅筛选器文档。
Amazon Kinesis Data Firehose:设置 Kinesis Data Firehose 传输流,将您的 Kafka 集群指定为目标。在此设置期间,您可以选择配置流,以便在将传入日志数据转发到您的 Kafka 主题之前对其进行任何必要的转换。
这些步骤提供了一种简化的方法,可将日志从 CloudWatch 转发到 Kinesis Data Firehose,然后转发到 Kafka 集群。