Azure 机器学习 - 在线端点计划/成本管理

问题描述 投票:0回答:1

我们正在 Azure 机器学习上试验 MLOps,因此希望管理用于推理的在线端点。但是,我们也希望节省成本,并且由于该软件目前仅在一个位置运行,因此我们知道人们不会在正常工作时间之外使用它。

端点被部署到托管计算实例,只要部署(端点)处于活动状态,该实例就会每小时向我们报价(不是基于请求)。

我没有看到任何自动安排和删除部署的选项(无论是在 UI 上还是文档上)。我可以配置自动缩放,但我不确定在晚上和周末将端点缩放到 0% 是否也会释放计算(我的猜测是,它不会,而且我们仍然需要为计算付费)。我可以每天晚上手动删除部署并每天早上部署它,但我希望能够自动执行此操作,因为随着时间的推移,随着端点数量的增加,它会变得难以管理。

我是否可以(如果可以,如何)根据计划在工作时间之外自动将 Azure 机器学习在线端点的成本降低至 0 美元?如果是的话,怎么办?

azure endpoint azure-machine-learning-service
1个回答
0
投票

我想您正在使用“在线”端点进行部署。如果是,一种可能性是将部署配置为使用“批量”端点,这允许计算规模为零。

您可以在以下位置查看更多信息:https://learn.microsoft.com/en-us/azure/machine-learning/concept-endpoints?view=Azureml-api-2#deplayments

© www.soinside.com 2019 - 2024. All rights reserved.