Azure数据工厂:我可以在另一个管道正在运行时暂停管道运行,然后恢复第一条管道吗?

问题描述 投票:0回答:2

所以我有一条运行时间很长(几周)的管道,它将用Data Factory加载一些表并使用Databricks处理它们。

另外,我还有另一条管道,每天都要运行几个小时。但是,Databricks群集似乎不足以同时运行两个管道,因为当两个管道均处于活动状态时,它将引发错误(似乎是内存错误,“ Spark驱动程序已意外停止”。)]

不过,每日管道是最高优先级,因此理想情况下,我想对长期管道进行暂停 3小时左右,然后执行每日触发,然后对继续学期管道执行。

可以这样做吗?

提前感谢!

azure azure-pipelines azure-data-factory azure-data-factory-2 azure-databricks
2个回答
0
投票

简单答案:否。您应该在引发错误的databrick群集中寻找解决方案。由于正在运行另一个管道,因此无法暂停管道。


0
投票

您无法暂停正在运行的管道。 Azure devops管道当前不具有此功能。屏幕截图下方列出了构建可能的所有状态。如您所见,“暂停”不是其中之一。

enter image description here

您可能需要更大的容量才能运行另一个群集。

但是,您始终可以submit a feature请求(单击建议功能并选择Azure Devops)”到Microsoft开发团队。希望他们在将来的sprint中考虑实现此功能。

enter image description here

© www.soinside.com 2019 - 2024. All rights reserved.