从Azure Data Lake Gen 2删除未刷新的文件

问题描述 投票:0回答:1

要先将文件上传到ADL,您需要:

  • 使用?resource=file参数执行放置请求(这将在ADL上创建一个文件)
  • 使用?action=append&position=<N>参数将数据追加到文件中
  • 最后,您需要用?action=flush&position=<FILE_SIZE>刷新数据>
  • 我的问题是:

如果没有刷新(写入),有一种方法可以告诉服务器该数据应保留多长时间。

由于需要先创建一个文件才能将数据写入其中,所以在某些情况下可能不会发生刷新,并且卡住了数据湖中的空文件。

我在Microsoft documentation上找不到与此有关的任何内容。

任何信息将不胜感激。

要先将文件上传到ADL,您需要:使用?resource = file参数(在ADL上创建文件)进行放置请求,并使用?action = append&position = ...

azure azure-data-lake azure-data-lake-gen2
1个回答
0
投票

Azure Datalake Storage Gen2的SDK已准备就绪,与使用rest api相比,您可以使用它来更轻松地操作ADLS Gen2。

© www.soinside.com 2019 - 2024. All rights reserved.