如何在 amazon sagemaker 中的各个端点上部署多个模型

Question

我最近对 Amazon Sagemaker 和 Rekognition 很感兴趣。 我想尝试 AWS 实例并部署 ML 模型。

• 我将训练和部署用于诊断各种作物疾病（图像分类）的模型。所以我想在一个实例中部署多个模型。 （一种作物一种型号）

• 我将使用我的自定义数据集来训练模型。

• 我正在考虑使用 Amazon Sagemaker 而不是 Rekognition。因为主要任务是对图像进行分类，而不是识别。每个类别的图像没有显着差异。

• 我想尝试 VIT、ResNet 等模型......

• 我检查过SageMaker中有一个“多模型enpoints”。但我想知道是否有一种方法可以在不同的端点上部署多个 ML 模型。

Answer 1

多模型和多容器端点共享相同的端点 URL。尽管如此，您可以通过调用具有特定模型名称的端点来调用相应的模型。不确定我是否正确理解了您的问题，您是否希望在单个实例中托管多个模型并为每个模型提供单独的端点 url？如果是，则无法使用 SageMaker 端点。