distributed-computing 相关问题

利用多台计算机,通过通信链路相互连接,完成一项共同任务。

如何在数据块中分解数据框架构

我有一个应分解的架构,以下是该架构|-CaseNumber:字符串(nullable = true)|-客户:数组(nullable = true)| |-元素:struct(containsNull = true)| | ...

回答 1 投票 0

图形中的FloodSet算法-分布式计算

我正在尝试从Nancy A的分布式算法中解决练习6.5。Lynch考虑了f失败的FloodSet算法。假设算法不是运行f + 1回合,而是......>

回答 1 投票 0

分布式系统中的启动器节点

我已经完成一项任务,找出分布式系统中状态记录算法的所有可能的启动器节点。确切给出的问题是“将程序写入...

回答 1 投票 1

在多个分布式CPU上运行PyTorch数据加载器/数据集

我想知道是否有一种方法可以将数据加载器/数据集分发到许多CPU,即使使用单个GPU也是如此。具体来说,我想拥有一个数据集类,并且__getitem__函数将...

回答 1 投票 0

MapReduce主流程如何决定将哪个任务分配给单个工作流程?

此问题将不会讨论Hadoop或Spark中的特定情况。当我阅读《 MapReduce:大型集群上的简化数据处理》时,我很困惑,因为Master会选择空闲...

回答 1 投票 -1

pytorch multicpu分布式数据加载器(MPI)

我想知道是否有一种方法可以将数据加载器/数据集分发到许多CPU,即使使用单个GPU也是如此。具体来说,我想拥有一个数据集类,并且__getitem__函数将...

回答 1 投票 0

SLURM批处理是否跨节点自动复制用户脚本?

SLURM(特别是批处理)是否应将用户脚本(而非作业配置脚本)自动复制到集群的计算节点以执行?从我的登录节点执行sbatch文件后,...

回答 1 投票 1

Apache Spark的一个小示例

我是Apache Spark的新用户,对sparks运行程序的方式感到困惑。例如,我有一个较大的int RDD,它分布在10个节点上,并希望在...

回答 1 投票 -1

如何在Spark中将分区分配给任务

假设我正在从S3文件夹中读取100个文件。每个文件的大小为10 MB。当我执行df = spark.read.parquet(s3 path)时,如何将文件(或分区)分配到各个任务中? E ....

回答 1 投票 2

paxos是否提供真正的线性一致性?

我想我可能会在这里混淆概念,但是在我看来,paxos可以为实现它的系统提供线性化的一致性。我知道Cassandra使用它。我尚不清楚100%,但...

回答 1 投票 0

其中有多少种不同的编程范例,它们是什么?

我是编程的初学者。当我阅读软计算时,我经常遇到术语计算,编程范例和软计算使用不同的编程范例,例如...

回答 1 投票 0

我可以在spark中的RDD.map操作中调用任意函数吗?

假设我有一个1000,000行的数据集。我将其分为400行。我将它们转换为具有1000,000 / 400 = 2500 rdd元素的rdd,以便将400行水平连接。 ...

回答 1 投票 0

如何在Tensorflow 2.0中连接到远程集群?

在Tensorflow 1.x中,有一种使用tf.contrib.distribute.DistributeConfig将Estimator连接到远程集群的方法,如Tensorflow生态系统存储库中的示例代码所示。...

回答 1 投票 0

如果我们有负载均衡器来定向请求,为什么需要Web服务器?

假设我们有两个服务器通过负载均衡器为请求提供服务。我们的两台服务器上都必须有Web服务器来处理请求。负载均衡器本身可以充当Web服务器。 ...

回答 1 投票 0

我如何通过多台机器为django网站提供服务,这就是我如何使其分布的方式?

我有我的django网站,我想使它成为分布式的,我知道系统设计和分布式系统的所有概念,但是仍然无法弄清楚如何使用多台服务器为它提供服务。我是...

回答 2 投票 2

从服务器到另一个节点的Erlang传递消息

[我正在尝试让一个简单的erlang服务器在我尝试注册该服务器的地方工作,将消息传递到该服务器,该服务器应该在另一个Node上注册并创建2个进程,但是我正在得到...

回答 1 投票 1

如何从我的django网站连接到集中式MySQL数据库?

假设我有两个系统将运行Django服务器,一个系统将是集中式数据库,其中将仅包含在此计算机上运行的数据库应用程序。我怎么有两个...

回答 1 投票 0

我如何将django网站部署在多台服务器上,这就是如何使其分布在哪里?

我有我的django网站,我想使它成为分布式的,我知道系统设计和分布式系统的所有概念,但是仍然无法弄清楚如何使用多台服务器为它提供服务。可以...

回答 1 投票 1

GlusterFS,如何使用http或https服务器文件?

我对glusterfs非常陌生,我正在尝试设置3节点组合。我已经完成了3个节点和一台安装了卷的客户端计算机的设置。现在,在此之后,我很想找到...

回答 1 投票 0

分布式系统中逻辑顺序和总顺序的示例

Total order:Lamport时间戳可用于通过使用某种任意机制打破联系来创建分布式系统中事件的总排序(例如,进程的ID)。逻辑...

回答 2 投票 2

© www.soinside.com 2019 - 2024. All rights reserved.