azure-data-factory 相关问题

Microsoft Azure Data Factory是一种云服务,用于使用时间片的概念以受控方式调用(编排)其他Azure服务。数据工厂主要使用手工制作的JSON开发,这为工具提供了执行哪些活动的说明。虽然仍处于预览阶段,但Azure Data Factory V2的引入可以使用api而不仅仅是JSON文件提供更轻松的数据集成体验。

解析 Azure 数据工厂中的设置变量字符串

我们有网络活动,它总是在值变化的字符串下方返回(值每天都是动态的)。我们需要提取关键值。请告知如何在 Azure 数据工厂中实现此目的

回答 1 投票 0

在 Azure 数据工厂中创建数组数组

我需要在Azure数据工厂中创建一个日期数组,如下所示。 将提供开始日期和结束日期,生成的数组数组应如下所示 [[“2022 年 1 月 1 日&q...

回答 1 投票 0

无法将参数写入adf数据流中的sink

我目前正在学习 ADF 并探索 Azure stack。我面临以下问题。 在下面的数据流中,我从管道中获取系统参数(例如管道名称、runID 等)并传递给 datafl...

回答 1 投票 0

元数据驱动的 ADF 管道从多个源获取数据

我正在设计 ADF 解决方案以从 DataLake 原始层读取多个源文件夹,我需要构建一个配置文件,在其中可以动态管理要加载的文件/文件夹以及要加载的日期范围 我....

回答 1 投票 0

数据工厂在拉取请求后在 Azure DevOps 上触发两个版本

我们将数据工厂与 Azure DevOps 进行持续集成,对数据工厂管道进行任何更改后,我们会发出拉取请求,以便将此更改发送到生产环境。然而...

回答 1 投票 0

在 ADF 管道中将表达式转换为数据类型 NVARCHAR 时发生溢出错误

将数据从 ServiceNow API 加载到具有 nvarchar(max) 列的 Synapse 专用池中的表时,我在管道中遇到错误。 错误消息指出: {“消息...

回答 1 投票 0

Azure 数据工厂删除 csv 文件的列名称后面的空格

我有一个包含相同列的 CSV 文件列表,但有些文件的列名称后面带有空格。将记录传输到数据库时,我遇到了

回答 1 投票 0

如何在一个 ADF 脚本中访问两个数据库中的表?

我有两个数据库Employee和Employee_Archive,每个数据库都有一个表'dbo.Employee'。 如果记录已存在于 Employee_Archive.dbo.Employee 中,我计划删除 Employee.dbo.Employee。 我...

回答 1 投票 0

BadRequest:由于引用无效,文档创建或更新失败

我正在尝试使用发布管道使用 CICD(Azure DevOps 部署)来部署 ADF 管道。 在这里,我尝试将协作分支中的内容合并到主分支(使用 GIT)。 我也在使用:

回答 4 投票 0

Azure 数据工厂 - 日期到达接收器后转换为 5 位数的问题

我正在从 MongoDb 中提取文件(JSON)并将其转换为表。我目前正在展平文件,然后进行派生列转换以将日期转换为日期类型。当我...

回答 1 投票 0

如何将Json字符串转为数组并去掉转义字符

这是我的输入文件 - 它只是一个示例它将有超过 20k 行 {“A”:12345,“B”:“2023-12-31 00:00:00”,“C”:5510,“D”:20231231,“E”:

回答 1 投票 0

如何将变量从主管道传递到Azure数据工厂中的子管道?

我已在主管道中设置变量“Id”,并且正在“设置变量1”中设置值 我想将变量传递给子管道。我在 c 中创建了参数“Id”...

回答 2 投票 0

为什么系统分配的托管标识无法访问 Azure 管理 API?

我试图按照这里的教程 - https://medium.com/azure-tutorials/custom-queue-mechanism-for-data-factory-pipelines-a1b0809ec790 但我似乎无法获得正确的身份验证。 ...

回答 1 投票 0

如何从 CSV 文件中获取不同的日期并在 Azure DataFactory Pipeline 上迭代删除查询

我想将薪资数据从位于 Azure BLOB 存储中的 csv 文件导入到 ADF 上的 Azure 数据库中。由于如果批量的 PaycheckDate 已经在桌子上,那么薪水时间表是固定的,

回答 1 投票 0

在数据流中的源中指定列和表时出错

我正在尝试在数据流中的数据源上指定查询,如下面的屏幕截图所示。 但它抛出一个错误,这是指定列的正确方法吗? 错误:

回答 1 投票 0

Azure 数据工厂复制活动时间戳不必要的转换

我将数据从 PostgreSQL 表复制到 parquet 文件。源是:SELECT * FROM ,接收器是 ADLS(Azure 数据湖 gen2)的路径。对于许多表来说,复制是循环的。副本...

回答 1 投票 0

用户托管标识无法通过 ADF 中的 Azure IR 访问具有专用端点的 Blob 存储帐户

我正在尝试使用复制活动将文件从 ADF 上传到容器。我已在链接服务中使用用户分配的托管标识来连接到存储帐户。连接成功但是...

回答 1 投票 0

ADF - 增量负载

我有一个关于复制活动和增量加载的问题。想法是从 CDC 表增量拉取 cdc 日志,但源表设计得很糟糕,没有任何主键列...

回答 1 投票 0

使用azure数据工厂将dbf转换为csv

嗨,任何人都可以帮助我使用 azure 数据工厂自定义活动,使用 azure 批处理帐户将 dbf 文件(放置在存储帐户中)转换为 csv。请提供python代码 我创建了一批...

回答 1 投票 0

Azure Pipeline 存储文件触发器不触发

我创建了一个 Azure Synapse Analytics Pipeline,必须通过在 Azure Gen2 存储帐户中创建文件来触发该管道。 不知何故,blob 创建事件(即,当我上传文件时,我...

回答 5 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.