嗨,我试图找到在 flex 模式下运行的数据流允许的最大大小以及检查大小的方法。 我知道经典模板每个模板有 10MB 的限制。
但是在 Google Cloud 文档中搜索我无法找到大小是否与经典大小相同。
在经典模板上,我可以通过检查存储桶内的文件大小来检查模板的大小。
但是对于 flex 模板我不能这样做,因为 flex 模板作为容器文件运行所以 它在作业运行时构建。 我能做的一件事是在上传到 GCP 之前检查我的 java 项目打包的 Uber jar。
但我假设模板是数据流生成的图形的最大大小,而不是应用程序的大小(我的罐子大约有 90 ~ 120MB,并且在 GCP 中运行良好)。
我认为
Dataflow Flex Template
没有尺寸限制。
太大的 fat jar 会减少运行时间,但据我所知,Flex 模板没有配额或限制。