Java:到bigquery顺序插入的数据流

问题描述 投票:0回答:1

我想从一个数据流作业将数据插入2个Bigquery表中。仅当成功将数据插入到第一张表时,才必须执行第二张表插入。任何人都可以帮助我如何实现/检查是否插入了数据并继续进行第二表插入

transactions dataflow
1个回答
0
投票

您应该使用Wait signals,这将以另一种方式起作用

在Y准备就绪后将T应用于X

X.apply(Wait.on(Y)).apply(T)
PCollection<Void> firstWriteResults = data.apply(ParDo.of(...write to first database...));
data.apply(Wait.on(firstWriteResults))
.apply(ParDo.of(...write to second database...));

Wait.on()可以与批处理和流传输管道一起使用

这里是另一个有用的example

© www.soinside.com 2019 - 2024. All rights reserved.