AWS Sagemaker端点的响应解析

Question

我需要调用一个函数来解析端点返回的文本作为 AWS 中的响应。

我已在 AWS SageMaker 终端节点上成功托管 ASR 模型。由于我是 AWS 新手，我想询问解析端点返回的响应的最佳方法。我的目标是在云中拥有一个 Python 脚本来处理文本格式的响应，然后仅提取最终响应。也许有一种方法可以更改响应生成并在其上调用我的脚本，然后通过端点返回，例如为端点创建自定义 Docker 容器。我将不胜感激任何指导或建议的方法。

Answer 1

由于您没有提及您正在使用哪种端点，我假设您将模型部署在端点上以进行实时推理。

您可以在此处了解有关不同模型部署选项的更多信息。请注意实时推理端点施加的限制：

要在 Python 中解析来自实时端点的响应，您可以使用 boto3 库。您可以在 AWS 文档中找到一般分步示例。

有关 ASR 模型的具体信息，您可以在这篇博文中找到更多信息，其中还介绍了不同的部署选项。