Mistral 7B Sagemaker Jumpstart 不会将 tar.gz 上传到 s3 输出

Question

我正在使用 sagemaker Jumpstart 微调 Mistral 7B 模型。

我非常严格地遵循此处的步骤：https://aws.amazon.com/blogs/machine-learning/fine-tune-and-deploy-mistral-7b-with-amazon-sagemaker-jumpstart/

我已经成功地完成了很多次了。

如果我观察微调进度并在调整完成时在场，Sagemaker 会为您提供一个方便的“部署”按钮，该按钮将为您创建一个端点。

如果我想使用以前的微调模型，尽管我必须从微调工件创建一个模型。

在每个文档中，我都能找到它说 sagemaker 应该将 model.tar.gz 文件上传到您的 s3 输出目录。当我运行它时，它会上传包含所有模型工件的整个模型目录（大约 10GB 价值）。您无法使用这些未压缩的工件在 sagemaker 中部署模型。创建模型流程需要微调说它创建的 tar.gz 文件，但它只是不存在。我知道我可以自己下载、压缩并上传到 model.tar.gz，但这是一个漫长的过程，我知道 Sagemaker 应该已经做到了。

mistral 7b 的 sagemaker Jumpstart 是否存在错误，或者我是否在某处缺少配置参数？或者它是否将模型上传到我不知道的地方？

我使用 Sagemaker Jumpstart 对多个 Mistra 7b 模型进行了微调。

Sagemaker 并未上传其声称的 model.tar.gz 文件，而是上传未压缩的模型工件。

Answer 1

（可能或可能不适用于您的情况）在遵循https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/jumpstart-foundation-models/llama-2-finetuning.html后我遇到了同样的问题，将

disable_output_compression

转为

False

修复了它（或者完全删除它，因为它是一个可选参数）。