在 sagemaker 无服务器推理端点上部署大型模型会出现超时错误

Question

无法在指定的 180 秒超时时间内成功站立模型。请确保下载您的模型工件， 启动模型容器并通过 ping 健康检查可以 180秒内完成。

遵循本文档 -> https://docs.aws.amazon.com/sagemaker/latest/dg/large-model-inference-uncompressed.html 但这也是给予

ParamValidationError：参数验证失败：未知参数 在 PrimaryContainer 中：“ModelDataSource”，必须是以下之一： ContainerHostname、图像、ImageConfig、模式、ModelDataUrl、 环境、模型包名称、推理规范名称、 多模型配置

还有其他方式来托管大型模型吗？

Answer 1

与Boto版本有关。更新 Boto 后已修复