batch-processing 相关问题

批处理是指以最少的人工交互进行编程执行。

批量插入while循环

我需要以下查询的帮助。如何使用 while 循环将表 1 中的所有行以 10 为一组插入到表 2 中(表 1 和表 2 是相同的表,表 1 有 500 条记录...

回答 4 投票 0

在谷歌云功能中使用批处理文档AI

我有一个场景,我将本地文件上传到 Cloud Storage 存储桶,从而触发 Cloud Function (xyz)。在此云功能中,我正在使用 Google Cl 执行批处理任务...

回答 1 投票 0

如何在 Spring Boot + Angular Web 应用程序中通知用户批量进度的更新?

我的应用程序有一个 Spring Boot 后端和一个通过 REST 端点调用后端的 Angular 前端。 我想允许用户在服务器上启动批处理过程,其中涉及制作大量......

回答 1 投票 0

ImageJ 宏遍历文件夹,一次合并三个图像,在第一次迭代期间跳过一个图像

我正在制作一个脚本,将通道合并到 4D 堆栈中。它应该一次在一个文件夹中获取三个图像,合并它们,然后保存合成图像。 我不明白的是,在...

回答 2 投票 0

循环遍历html文件,获取文件名并插入到每个文件中

我正在将网站迁移到 Wordpress...旧网站使用定制的发布系统,其中 PHP 模板为每个帖子调用单独的静态 HTML 文件。有相当多的...

回答 1 投票 0

使用 Spark 引擎的 AWS Glue 批量处理

这是我的场景。 我有一个源数据库,它是带有 Postgresql 引擎的 aurora 数据库。我有一个名为付款的表。该表由数百万条记录组成,因此在每个 d 结束时...

回答 1 投票 0

当我知道模型名称时获取模型ID

我目前正在尝试使用 python 在大查询表上运行顶点模型。 我正在测试我的代码,它将成为 Airflow 的自定义 vertex ai 批量执行操作符。 我可以看到很多功能

回答 2 投票 0

并行化、多重处理、CSV 编写器

我有一个名为 term_list 的巨大字符串列表,我在名为 run_mappers() 的函数中逐一处理它们。其中一个参数是 csv_writer 对象。我将结果附加到名为 from_mapper 的列表中...

回答 1 投票 0

是否有可能以某种方式转换整个集合,而不是一个一个地进行?

是否有可能以某种方式转换整个集合而不是一个一个地进行转换? 我经常遇到需要将列表中的元素从一种类型转换为另一种类型的情况。 所以...

回答 1 投票 0

在类路径中找不到任何实现“org.apache.flink.table.delegation.ExecutorFactory”的工厂。抛出异常

当我尝试在使用表环境时运行 Flink 批处理时,表环境未实现,而是抛出异常: 表环境 tenv = TableEnvironment.create(

回答 1 投票 0

如何在批处理文件中水平打印 for /L 输出?

我想知道是否有办法在批处理脚本中以水平方向输出这个生成的序列? 这是代码: 对于 (1,1,5) 中的 /L %%a 执行 ( 回显%%a ) -- 输出: 1 2 3 ...

回答 1 投票 0

我们可以在 Spring Batch Processor 中一起处理整个块吗

我有一个场景,员工暂存表中有数百万条记录,我需要丰富该值并将其存储在员工最终表中。现在我正在使用块大小为 10,000 的块处理....

回答 1 投票 0

通过对 Amazon Polly 的一个请求创建多个音频文件

假设我有一个每行包含一个单词的文本文件,我需要使用 Amazon Polly 为每个单词创建一个音频文件。这是一个非常大的文件(包含约 100 万个字符和...

回答 1 投票 0

将某些文件复制到另一个文件夹

我需要将文件从一个文件夹/子文件夹复制到一个新文件夹。下面是我需要做的事情的图片。 我需要复制 D:\ 驱动器上存在的所有文件和子文件夹 ins...

回答 1 投票 0

Spring Batch Partitioner:如何使具有 Spring Batch 功能的 Spring Boot 应用程序作为多节点工作

我们有一个 Spring Boot 应用程序,专门用于处理 Spring 批处理作业。在这里,我们使用 Spring Batch Parter 方法。选择这种方法是因为我们需要可恢复性/

回答 1 投票 0

嵌套对象上的Spring批处理块

我正在使用 Spring Batch 和 StaxEventItemReader 读取下面的 xml 文件 xml 文件示例: 我正在使用 Spring Batch 来读取下面的 xml 文件 StaxEventItemReader xml 文件示例: <ArrayOfStoreTransaction CustomerID="C1"> <PurchaseHistory Type="purchase.001" Count="2"> <StoreTransaction> <CustomerID>C1</CustomerID> <CustomerAccount>C1A</CustomerAccount> </StoreTransaction> <StoreTransaction> <CustomerID>C1</CustomerID> <CustomerAccount>C1A</CustomerAccount> </StoreTransaction> </PurchaseHistory> <PurchaseHistory Type="purchase.002" Count="1"> <StoreTransaction> <CustomerID>S3</CustomerID> <CustomerAccount>S3A</CustomerAccount> </StoreTransaction> </PurchaseHistory> <PurchaseHistory Type="purchase.003" Count="2"> <StoreTransaction> <CustomerID>S3</CustomerID> <CustomerAccount>S3A</CustomerAccount> </StoreTransaction> <StoreTransaction> <CustomerID>S3</CustomerID> <CustomerAccount>S3A</CustomerAccount> </StoreTransaction> </PurchaseHistory> </ArrayOfStoreTransaction> 这也是我用于绑定 xml 的对象 @XmlRootElement(name = "PurchaseHistory") @XmlAccessorType(XmlAccessType.FIELD) @Data public class PurchaseHistoryList { @XmlAttribute(name = "Type") private String type; @XmlAttribute(name = "Count") private int count; @XmlElement(name = "StoreTransaction") private List<StoreTransaction> storeTransactions; } @XmlAccessorType(XmlAccessType.FIELD) @Data class StoreTransaction { @XmlElement(name = "CustomerID") private String customerID; @XmlElement(name = "CustomerAccount") private String customerAccount; } 这是我的配置类: @Configuration @EnableBatchProcessing public class BatchConfiguration { @Bean public Step reportStep(StepBuilderFactory stepBuilderFactory, PlatformTransactionManager platformTransactionManager, ItemStreamReader<PurchaseHistoryList> reportItemReader, ItemWriter<PurchaseHistoryList> reportItemWriter, @Value("${chunk.size}") Integer chunkSize) { return stepBuilderFactory.get("reportStep") .transactionManager(platformTransactionManager) .<PurchaseHistoryList, PurchaseHistoryList>chunk(chunkSize) .reader(reportItemReader) .writer(reportItemWriter) .build(); } @Bean public Job reportJob(JobBuilderFactory jobBuilderFactory, JobRepository jobRepository, Step reportStep) { return jobBuilderFactory.get("reportJob") .repository(jobRepository) .start(reportStep) .build(); } @Bean public Unmarshaller paymentUnmarshaller() { Jaxb2Marshaller marshaller = new Jaxb2Marshaller(); marshaller.setClassesToBeBound(PurchaseHistoryList.class); return marshaller; } @Bean @StepScope public ItemStreamReader<PurchaseHistoryList> reportItemReader(@Value("#{jobParameters[filePath]}") String filePath) { StaxEventItemReader<PurchaseHistoryList> reader = new StaxEventItemReader<>(); reader.setResource(new FileSystemResource(filePath)); reader.setFragmentRootElementName("PurchaseHistory"); reader.setUnmarshaller(paymentUnmarshaller()); return reader; } @Bean public ItemWriter<PurchaseHistoryList> reportItemWriter(PurchaseHistoryListRepository repository) { return new PurchaseHistoryListWriter(repository); } } 我想要的是将块应用到 StoreTransaction 对象列表上。例如,如果块大小设置为 1,则提供给编写器的每个 PurchasingHistoryList 在每次迭代中应仅包含一个 StoreTransaction 对象。 那是不可能的。您将一项定义为 PurchaseHistory XML 元素,其中可能包含一个或多个 StoreTransaction 元素。 块大小应用于外部项目(而不是嵌套项目)。

回答 1 投票 0

Spring 批处理分区器:如何将 reader 类扩展为 bean 并在配置类中引用它

这是我的配置类, @豆 @StepScope 公共 JdbcPagingItemReader pagingItemReader( @Value("#{stepExecutionContext['fromRow']}")

回答 1 投票 0

CoreData 使用额外键批量插入(Cocoa 错误 1605。)

我正在使用 CoreData 将表示对象的字典数组 ([[String: Any]]) 插入到持久存储中。插入对象时,出现错误“操作无法完成”。 (

回答 1 投票 0

awk 中的并行处理?

awk 逐行处理文件。假设每行操作不依赖于其他行,有没有办法让 awk 一次并行处理多行? 还有其他文字吗

回答 3 投票 0

使用 wsl 运行多个命令

我的主文件夹上有一些脚本,我想从命令行运行,实际上是从任务计划程序运行,但我找不到这样做的方法。 我努力了 wsl -u Ubuntu -u jlanza "cd /home/

回答 5 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.