dataflow 相关问题

数据流编程是一种编程范例,其中计算通过有向图建模:节点是指令,数据通过它们之间的连接流动。

通过BufferBlock的背压不工作。(C# TPL Dataflow)

典型的情况是:"生产者快,消费者慢,需要让生产者慢下来。生产者快,消费者慢,需要让生产者慢下来。样例代码没有像我预期的那样工作(下面解释)。/ 我以为这个区块会像... ...

回答 1 投票 2

无法通过数据流控制台创建数据流作业:发现意外参数。['key'(也许你指的是'region')]。

我创建了一个数据流作业,它接受一个叫做'key'的参数作为输入,我用以下命令创建了模板--template_location=gs:/mm_dataflow_buckettemplates。我使用以下命令创建了模板 --template_location=gs:/mm_dataflow_buckettemplates...。

回答 1 投票 0

当PostDataflowBlockOptions.BoundedCapacity不是默认值时,避免使用ActionBlock<TInput>.Post?

我听说,如果你使用ActionBlock的Post方法而不是SendAsync方法,你可能会丢失信息。 对象,当你决定利用它的BoundedCapacity属性时。可以...

回答 1 投票 0

Apache beam splittable DoFn没有将工作分散到Dataflow上的多个工作者。

我正在学习使用可拆分的DoFn,我希望我的工作能分配给500个工人,但Dataflow只用1或2个工人运行。我希望将我的工作分配给500个工人,但Dataflow只用1或2个工人运行它,我是否理解或实现可分割DoFn不正确?我对可拆分DoFn的理解或实现是否有误? ...

回答 1 投票 0

模板化Dataflow中的PubSub输入完全忽略了NestedValueProvider。

我已经为Dataflow创建了模板,它正在读取PubSub的消息,问题是NestedValueProvider不可能修改通过选项值发送的消息,我不知道为什么 - 下面......

回答 1 投票 0

Apache Beam - 如何从所有的窗口中通过键对PCollection<KV<String, Int>&gt进行求和。

给定一个PCollection >有了固定时间的窗口,如何将所有窗口的Int按字符串键相加呢? 比如PCollection。 > pc = ...; ...

回答 2 投票 1

Pardo函数在google数据流中不产生任何输出。

我试图在dataflow中创建我的第一个pipleine,我有相同的代码运行时,我执行使用交互式beam runner,但在dataflow上,我得到的所有类型的错误,这是不多......

回答 1 投票 0

Apache Beam:使用MongoDbIO.read()刷新我从MongoDB读取的一个侧输入。

不知道这个GenerateSequence对我有什么帮助,因为我必须每小时或每天定期从Mongo中读取值,创建了一个读取MongoDB的ParDo,还添加了窗口到......

回答 2 投票 0

Dataflow TPL 实现带前提条件的流水线

我有一个关于使用Dataflow TPL库实现流水线的问题。我的情况是,我有一个软件,需要同时处理一些任务。处理过程是这样的:首先我们...

回答 1 投票 1

数据流的附加参数进入光束管道

我正在研究Dataflow,我已经通过Python SDK建立了我的自定义管道。我想在Dataflow用户界面上添加参数到我的自定义管道中,使用附加参数。...

回答 1 投票 0

通过Azure数据工厂将数据从Blob复制到SQL

我在blob中有两个示例文件,分别为sample1.csv和sample2.csv,如下所示数据示例SQL表名称sample2,其列名,id,姓氏,数量创建了没有模式的ADF流,其结果为...] >

回答 2 投票 0

如何将HttpServletRequest JSON入站数据从控制器传递到服务方法

我了解在Grails中将业务逻辑与服务方法隔离的一般原则。我以前所有的Grails Web服务都没有入站JSON,XML等。目前,我需要使用JSON ...

回答 2 投票 0

在Apache Beam Java中将List与自定义POJO Java类一起使用时收到很多警告

我是Apache Beam的新手,我使用Apache Beam和GCP中的Dataflow作为运行程序。在执行管道时遇到以下错误。类org.apache.beam.sdk.coders.ListCoder类型的编码器具有...

回答 1 投票 0

基于基于Apache Beam的计数进行过滤

我正在使用数据流和Apache Beam处理数据集并将结果存储在具有两列的无标题CSV文件中,如下所示:A1,a A2,a A3,b A4,a A5,c ...我想要过滤掉...

回答 1 投票 0

数据流作业没有任何输出

我有一个问题,其中数据流作业实际上运行良好,但是在手动将其排干之前它不会产生任何输出。使用以下代码,我假设它将产生窗口...

回答 1 投票 0

是否可能使任何数据流块类型都由于单个输入而发送多个中间结果?

是否有可能让TransformManyBlocks在创建中间结果时将其发送到下一步,而不是等待整个IEnumerable 填充?我已完成所有测试...

回答 1 投票 0


如何使用数据流将数据从Google Pub / Sub批量处理到Cloud Storage?

我正在建立一个Change Data Capture管道,该管道从MYSQL数据库读取数据并在BigQuery中创建一个副本。我将在Pub / Sub中推送更改,并使用Dataflow将其传输到...

回答 1 投票 0

无法将数据从子功能组件传递到React父组件(React.js)[重复]

我正在React中构建一个自动完成组件,因此我可以在单个页面中呈现单个自动完成;我想在单独的组件中呈现“自动完成”的建议。我尝试使用...

回答 2 投票 0

如何在Apache nifi中配置convertrecord处理器,以便将JSON转换为AVRO格式

无法弄清楚如何配置此处理器以将传入的JSON twitter数据转换为Avro,以将该数据放入配置单元表plz help。提前谢谢。

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.