创建 ETL 以从具有日期时间参数的端点提取数据的最佳实践是什么?

问题描述 投票:0回答:0

我想构建一个 ETL 来从 REST API 中提取数据。它的端点包含日期时间参数,例如,它的端点是这样的:

https://xxxxx/xxx/xxxx/xxxx?from=2023-05-02T09:19:58.80Z&to=2023-05-03T09:19:58.80Z&page=1

因此,如您所见,它具有“从”和“到”日期时间参数。

我需要每天运行这个 ETL,以便每天早上 9 点获取最新数据。这意味着,为了减少手动工作,我需要使其能够在管道运行时(即上午 9 点)自动获取“起始”日期时间值,并通过从中减去 24 小时来计算“结束”日期时间值'从'日期时间值。

请问构建这种管道的最佳实践是什么?非常感谢您的帮助!

informatica informatica-cloud iics informatica-data-integration-hub iics-di
© www.soinside.com 2019 - 2024. All rights reserved.