所以我有一条运行时间很长(几周)的管道,它将用Data Factory加载一些表并使用Databricks处理它们。
另外,我还有另一条管道,每天都要运行几个小时。但是,Databricks群集似乎不足以同时运行两个管道,因为当两个管道均处于活动状态时,它将引发错误(似乎是内存错误,“ Spark驱动程序已意外停止”。)]
不过,每日管道是最高优先级,因此理想情况下,我想对长期管道进行暂停 3小时左右,然后执行每日触发,然后对继续学期管道执行。
可以这样做吗?
提前感谢!
简单答案:否。您应该在引发错误的databrick群集中寻找解决方案。由于正在运行另一个管道,因此无法暂停管道。
您无法暂停正在运行的管道。 Azure devops管道当前不具有此功能。屏幕截图下方列出了构建可能的所有状态。如您所见,“暂停”不是其中之一。
您可能需要更大的容量才能运行另一个群集。
但是,您始终可以submit a feature请求(单击建议功能并选择Azure Devops)”到Microsoft开发团队。希望他们在将来的sprint中考虑实现此功能。