Python只读文件系统错误使用S3和Lambda打开文件进行读取时

问题描述 投票:26回答:3

当我将file.csv放入S3存储桶时,我看到了lambda函数的以下错误。文件不大,我甚至在打开文件进行读取之前添加了60秒的睡眠,但由于某种原因,文件附加了额外的“.6CEdFe7C”。这是为什么?

[Errno 30] Read-only file system: u'/file.csv.6CEdFe7C': IOError
Traceback (most recent call last):
File "/var/task/lambda_function.py", line 75, in lambda_handler
s3.download_file(bucket, key, filepath)
File "/var/runtime/boto3/s3/inject.py", line 104, in download_file
extra_args=ExtraArgs, callback=Callback)
File "/var/runtime/boto3/s3/transfer.py", line 670, in download_file
extra_args, callback)
File "/var/runtime/boto3/s3/transfer.py", line 685, in _download_file
self._get_object(bucket, key, filename, extra_args, callback)
File "/var/runtime/boto3/s3/transfer.py", line 709, in _get_object
extra_args, callback)
File "/var/runtime/boto3/s3/transfer.py", line 723, in _do_get_object
with self._osutil.open(filename, 'wb') as f:
File "/var/runtime/boto3/s3/transfer.py", line 332, in open
return open(filename, mode)
IOError: [Errno 30] Read-only file system: u'/file.csv.6CEdFe7C'

码:

def lambda_handler(event, context):

    s3_response = {}
    counter = 0
    event_records = event.get("Records", [])

    s3_items = []
    for event_record in event_records:
        if "s3" in event_record:
            bucket = event_record["s3"]["bucket"]["name"]
            key = event_record["s3"]["object"]["key"]
            filepath = '/' + key
            print(bucket)
            print(key)
            print(filepath)
            s3.download_file(bucket, key, filepath)

以上结果是:

mytestbucket
file.csv
/file.csv
[Errno 30] Read-only file system: u'/file.csv.6CEdFe7C'

如果密钥/文件是“file.csv”,那么为什么s3.download_file方法尝试下载“file.csv.6CEdFe7C”?我猜测当触发该函数时,该文件是file.csv.xxxxx但是当它到达第75行时,该文件被重命名为file.csv?

python amazon-s3 lambda io
3个回答
87
投票

只有/tmp似乎可以在AWS Lambda中写入。

因此,这将工作:

filepath = '/tmp/' + key

3
投票

根据http://boto3.readthedocs.io/en/latest/guide/s3-example-download-file.html

该示例显示如何使用云名称的第一个参数和要下载的本地路径的第二个参数。

enter image description here

amazaon docs说,另一方面,enter image description here

因此,我们有512 MB的创建文件。这是我在lambda aws中的代码,对我来说就像魅力一样。

.download_file(Key=nombre_archivo,Filename='/tmp/{}'.format(nuevo_nombre))

0
投票

我注意到当我上传lambda directly as a zip file的代码时,我只能写入/tmp文件夹,但是当从S3上传代码时,我也能写入project root folder

© www.soinside.com 2019 - 2024. All rights reserved.