有没有更快的方法将数据从本地计算机传输到AWS EC2?

问题描述 投票:0回答:1

我正在尝试设置我的第一个 EC2 实例以用于工作。这项工作涉及时不时地将一些大文件传输到 EC2(大约 5~10GB)。问题是,AWS 文档中的 scp 方法只能给我大约 200~600KB/s 的速度,远低于我的预期,仅上传一个文件就需要 5 个小时。

scp -i /path/key-pair-name.pem /path/my-file.txt ec2-user@instance-public-dns-name:path/

在 Stackoverflow 中遇到类似问题后,我也尝试使用 rsync 代替,但运气不佳。事实上,我认为它甚至给出了较低的平均速度。

rsync -avz --progress -e "ssh -i ${EC2_KEY}" *.safetensors "${EC2_DNS}:/home/ubuntu/"

这个速度范围是预期的吗?如果可能的话,我很乐意获得几 MB 范围内的东西。我的机器是MacOS,EC2是ubuntu。我不是这个 AWS 账户的所有者,其他人向我提供了这个 EC2 实例,所以我也无法设置 S3 并向其发送数据。

很抱歉提出这样的新手问题,并提前感谢大家。我真的很感激任何关于配置或其他更快上传速度的方法的建议。

(更多信息)我对网络几乎一无所知,所以我不知道如何检查连接中的瓶颈。如果您需要任何进一步的信息,请编写脚本以在评论中检查,我将用测试结果更新问题。

amazon-web-services amazon-ec2 scp
1个回答
0
投票

解决此问题的一种方法是首先手动将文件上传到 S3 存储桶并验证速度是否令人满意。

然后通过 ssh 连接到您的 EC2 实例并从 S3 存储桶下载文件。

通过附加具有存储桶读取权限的 IAM 角色,确保您的实例有权访问 s3 存储桶。 https://repost.aws/knowledge-center/ec2-instance-access-s3-bucket

此外,您可以设置 S3 网关端点以避免额外费用。
https://docs.aws.amazon.com/vpc/latest/privatelink/vpc-endpoints-s3.html

如果将数据下载到实例的成本不是问题,您可以跳过 S3 网关端点设置部分。

https://aws.amazon.com/s3/pricing/?p=pm&c=s3&z=4 https://repost.aws/knowledge-center/s3-maximum-transfer-speed-ec2

© www.soinside.com 2019 - 2024. All rights reserved.