azure-data-factory 相关问题

Microsoft Azure Data Factory是一种云服务,用于使用时间片的概念以受控方式调用(编排)其他Azure服务。数据工厂主要使用手工制作的JSON开发,这为工具提供了执行哪些活动的说明。虽然仍处于预览阶段,但Azure Data Factory V2的引入可以使用api而不仅仅是JSON文件提供更轻松的数据集成体验。

无法使用 Polybase/复制方法将数据从本地加载到 Synapse

ADF、ADLS 和 Synapse 都位于私有端点,我们能够从本地提取数据并使用 ADF 复制活动中的批量插入方法加载到 Synapse 中。但是当使用 Polybase/Copy me...

回答 1 投票 0

将文件从 Blob 存储发送到 FTP 服务器

我在工作中使用DataFactory。 我正在考虑将文件从 Blob 存储传输到本地 FTP 服务器,但有没有好的方法来实现它? 当我研究它时,我发现了逻辑A...

回答 1 投票 0

我可以将 Azure 数据工厂管道移至 Azure DevOps 吗?

我的客户开发了一套经过测试和运行的 Azure 数据工厂管道。他们要求我将他们转移到 Azure DevOps。这可能吗?如果是这样,我该怎么办?

回答 1 投票 0

如何使用内容类型 application/json 将数据从 ADF 发送到 api

嗨,我想将 blob 文件中的数据发送到 adf 中的 API。 数据是这样的 json 形式 { “姓名”:”” “ID”:”” “数据”:[{},{}] } 我已经尝试过...

回答 1 投票 0

我们是否需要在所有 ADF 环境上拥有相同的 LinkedServices

我正在尝试使用arm_templates为ADF实例实现CI/CD(参考:https://learn.microsoft.com/en-us/azure/data-factory/continuous-integration-delivery-improvements) 想要下...

回答 1 投票 0

通过 SFTP 将 CSV 文件从 Microsoft 数据工厂 Lakehouse 环境发送到外部服务器?

我目前正在开发一个项目,需要使用 SFTP 将 CSV 文件从 Microsoft Data Factory Lakehouse 环境传输到外部服务器。我一直在探索文档并且

回答 1 投票 0

如何使用自定义活动将 .dbf 文件转换为 .csv 文件?任何完整的答案都会对我非常有帮助,因为我是新手

如何使用自定义活动将 .dbf 文件转换为 .csv 文件?任何完整的答案都会对我非常有帮助。 我尝试重命名文件并查看数据,但我们得到的数据是非结构化格式...

回答 1 投票 0

在 Azure 数据工厂活动中操作 Json

我正在从 API 中提取数据,这需要多次调用才能发生。首先,我提出一个请求,该请求为我提供了以下形式的响应正文: “代码”:“200” “身体”: { ...

回答 1 投票 0

Azure 数据工厂在我的数据接收器中创建奇怪的文件名 - 为什么?

我的 Azure 数据工厂管道遇到问题。在管道中,我配置了复制活动和数据流。 复制活动设置为连接到 PostgreSQL 数据库...

回答 1 投票 0

Azure 数据工厂:如何在复制活动后删除子文件夹

我正在执行复制活动,将特定文件夹(包括子文件夹)的所有内容复制到目标文件夹中。我希望能够删除所有复制的文件及其关联...

回答 1 投票 0

在 Azure 数据工厂设置变量中与 " 串联

我们正在尝试连接三个字符串,其中包括“,但Azure数据工厂添加为”。问题是我们如何摆脱 \ 字符。 我有一个设置变量返回值 ABC...

回答 1 投票 0

ADF - 查找活动最大值

我正在尝试在存储帐户上设置一个包含水印的元数据镶木地板文件。其中将包含三列。现在我想使用查找活动从 c 中获取最新值...

回答 1 投票 0

如何在 Azure 数据工厂的数据流中动态拆分扁平 XML?

我正在导入具有以下结构的 XML 文件。 然后我用数据流对其进行转换。我要做的第一步是通过 标签展开并展平。我知道需要分成两个不同的

回答 1 投票 0

如何在Azure数据工厂的数据流中动态拆分扁平化的xml?

我正在导入具有以下结构的 xml 文件。 XML 然后我用数据流对其进行转换。我要做的第一步是按标签展开并展平。我知道需要分成两个不同的分支...

回答 1 投票 0

从 ADF Pipeline 运行 UPDATE SQL 返回“读取操作期间无法执行查询命令”。错误

我有一个具有多个不同阶段的管道,我想做的一件事是在某些点更新 Snowflake 上的表以跟踪管道已达到的位置。 当我尝试跑步时...

回答 1 投票 0

Azure Synapse / ADF 下复制活动中的 REST 调用

我正在尝试使用复制活动从 REST API 获取数据。我对分页功能有疑问,我想知道考虑到可用的功能是否可以使用它。 ...

回答 1 投票 0

如何在 ADF 中动态使用当前日期时间变量

我已将变量设置为字符串数据类型的“currentdate”,并给出以下默认值 在复制数据操作中,我编写了以下后续查询 @concat(' 选择 * 从 [',变量...

回答 1 投票 0

ADF Pipeline 耗时太长,因此授权已过期

运行分页的 REST 调用,尝试访问分成页面的大型数据集。 事先使用三足身份验证,自动保存(发布请求)刷新令牌和子序列...

回答 1 投票 0

Azure 数据工厂:如何从 Avro 文件导入复杂的 json 对象

我正在使用 ADF 解析一系列 Avro 文件。此练习的棘手部分是有效负载将包含不同大小的指标数组。在每个指标中,都会有轻微的

回答 1 投票 0

如何使用 ADF 管道从 ADLS 的 47 个文件中选择前 10 个文件

我的 ADLS 文件夹中有 47 个文件。我需要批量处理它。每次迭代应处理 10 个文件。因此它应该有 5 次迭代,每次迭代有 10 个文件,最后一次迭代有 47 个文件。我

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.