多模型端点上的无服务推理 - Amazon Sagemaker

Question

我使用以下两个选项在 Sagemaker 上创建了一个模型。我还指定了 ECR 下自定义容器的 URI 以及模型存档的根路径。

我能够成功创建预配置端点配置，但是，在无服务器的情况下，会显示以下消息。这是否意味着 Sagemaker 绝对不可能拥有无服务器多模型端点？

Answer 1

这是否意味着 Sagemaker 上绝对不可能拥有无服务器多模型端点？

基本上，使用无服务器，您可以将每个模型部署为不同的端点，并且它具有成本效益，因为您只需为使用付费。要从技术上回答您的问题，您无法像使用多模型端点那样在无服务器端点上部署多个模型。