azure-data-lake 相关问题

Azure Data Lake Analytics是Microsoft Azure中的三大数据服务套件:HDInsight,Data Lake Store和Data Lake Analytics。这些完全托管的服务使得易于上手和轻松扩展以Hive,Pig,Spark,Storm和U-SQL编写的大数据作业。要了解更多信息,请访问:https://azure.microsoft.com/en-us/solutions/data-lake/

Storage V2的Python脚本的所有文件属性

作为审计活动的一部分,我们计划在最后一次访问时查找所有文件。为此,如果我们有...

回答 1 投票 0

如何通过数据内容从Azure Data Lake Gen2中选择Avro文件的子集

我在启用了捕获功能的事件中心服务发送的Azure Data Lake Gen2存储中有很多Avro文件。这些Avro文件包含来自不同传感器和引擎的数据。 ...

回答 1 投票 0

通过R将文件从ADLS下载到本地文件系统时出现连接错误

我正在使用AzureR程序包从RStudio访问Azure Data Lake Storage。我使用以下脚本设置连接:library(AzureRMR)library(AzureStor)#建立连接az

回答 1 投票 1

从Azure用户定义的输出程序读取模板

我对Azure Data Lake还是很陌生。我想创建使用文件模板来生成输出文件的用户定义的输出程序。问题是什么是存储和检索...

回答 1 投票 0

如何备份ADLS GEN1的ACL?

我需要备份所有具有我的ADLS GEN1(Azure Data Lake Storage Gen1文件夹)的所有访问控制列表。 ..

回答 1 投票 0

ADX数据的ADX外部表:无记录

我将日志数据存储在ADLS第2代存储中。我试图在ADX中查询它,因此我在ADX中创建了一个外部表,但此处未填充记录。我没有在ADX中得到任何记录...

回答 1 投票 0

需要在闪闪发光的Databricks连接中支持Azure Data Lake Gen 2凭据通过的附加配置?

我有一个Azure Databricks(Databricks 6.4(包括Apache Spark 2.4.5,Scala 2.11))配置了Active Directory直通以支持查询Azure Data Lake Gen 2 ...的标准群集...] >> [[

回答 1 投票 0

如何在U-SQL提取语句中指定日期范围

我的输入文件位于一个月目录中,使用命名模式_.csv,我可以创建摘录以捕获所有文件@InputFile_Daily +“ {*}。json”。但是,现在我需要能够创建一个文件集...

回答 1 投票 1

是否有可能在Azure SQL数据仓库中创建指向指定位置中仅几个文件夹的外部表?

我一直在尝试通过仅考虑部分文件夹,而不考虑来自Azure Datalake位置的所有文件夹来在Azure SQL数据仓库中创建外部表。但是我不能这样做。请求帮助...

回答 1 投票 0

如何使用Python从Azure Data Lake Storage Gen2中的事件中心访问捕获的数据

我正在使用connection_string来访问Azure Data Lake Gen2存储,在其中包含文件夹的典型目录结构下,Event Hubs Capture在其中存储了大量Avro文件...

回答 1 投票 0

天蓝色斑点存储与天蓝色数据湖存储之间的差异

[对于像我这样的用户来说似乎很困惑,因为天蓝色的Blob存储和天蓝色的数据湖存储之间的主要区别是什么,在哪种用户情况下,天蓝色的Blob存储比天蓝色的更适合...]

回答 1 投票 0

将ADLS连接到AML中的笔记本时出错

我在连接基于AML笔记本创建和注册的数据集时遇到错误。当我在Designer中连接此数据集时,我可以将其可视化。下面是...

回答 1 投票 1

使用选择对象更改属性的数据类型并添加计算的属性

试图从对象获取详细信息,并将其保存到SQL表。 $ GetFiles`|选择对象的属性名称,类型为“ |”。 Write-SqlTableData -ServerInstance $ SQLServer -DatabaseName $ ...

回答 1 投票 1

使用Select-Object更改属性的数据类型并添加计算的属性

[尝试从对象获取详细信息,并将其保存到SQL表。 $ GetFiles`|选择对象的属性名称,类型为“ |”。 Write-SqlTableData -ServerInstance $ SQLServer -DatabaseName $ ...

回答 1 投票 0

与选择对象有关

[尝试从对象获取详细信息,并将其保存到SQL表。 $ GetFiles`|选择对象属性名称,类型Write-SqlTableData -ServerInstance $ SQLServer -DatabaseName $ ...

回答 1 投票 0

[使用Databricks中的Spark API连接到ADLS

我正在尝试使用Spark API建立与ADLS的连接。我真的很陌生。我阅读了说明可以使用以下代码建立连接的文档:...

回答 1 投票 0

Azure ADLSGEN2-API错误400-DatalakeStorageException请求URI无效

我正在使用Azure SDK(Java)创建目录,上传文件,在ADLSGEN2中移动文件。我的输入非常简单,看起来像:path:/ path / to / fileOrFolder但出现以下错误:com.azure ....

回答 1 投票 1

具有动态路径的ADL之间的Azure Data Factory副本

我正在尝试在两个Azure数据湖GEN1之间创建一个复制活动。我必须在其中一个子文件夹可变的路径上进行复制,例如:rootFolder / subFolder1 / * / subFolder3 ...

回答 1 投票 0

在Azure数据工厂中使用@item()。name设置'Copy Data'源文件夹

我有以下管道:Get Metadata1基本上检索子项(这是文件夹的集合,即originalFolder1,originalFolder2等)。在ForEach1活动中,我将复制数据...

回答 1 投票 0

什么是在数据湖中计算文件数的最简单方法

我将az存储blob的结果输出到文本文件和AZURE datalake中的文件数。请告诉我最简单的方法来计算azure datalake中文件的数量吗?

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.