distributed-computing 相关问题

利用多台计算机,通过通信链路相互连接,完成一项共同任务。

解决 pytorch 分布式执行为每个进程 spawned 打印多条日志语句?

我正在运行pytorch分布式环境来训练一些模型,在同一个脚本中,我也使用日志来打印程序的状态。问题是,用pytorch分布式因为其 ...

回答 1 投票 0

dask - 在一个超过RAM的大型数据帧上应用一个函数。

据认为,Dask框架能够处理超过RAM大小的数据集。然而,我无法成功地应用它来解决我的问题,这听起来像这样。我有...

回答 1 投票 0

能否创建一个Raspberry Pi TensorFlow训练集群?[已关闭]

我认为这可能是一个非常有趣的玩具项目(如果可能的话),尝试用树莓Pis创建一个TensorFlow模型训练集群(特别是由于rpis越来越好)。我发现...

回答 1 投票 0

严格一致性与原子一致性

我读了几篇文章,我对严格一致性(其定义为 "可以更好地理解为仿佛存在一个全局时钟,其中每个 ...

回答 1 投票 1

SLURM和Pytorch如何共同处理多节点多gpu训练的问题

我想问一下,在使用Slurm管理工作负载的集群中,当使用多节点多gpu进行训练时,梯度如何聚集。代码是用Pytorch写的。例如当启动...

回答 1 投票 0

Cristian的时钟同步算法(t+RTT-min)的精度如何?

我在看Cristian的时钟同步算法的讲义。该算法规定了以下假设。客户端-服务器单程传输时间的最小值为:min ...

回答 0 投票 0

优化复杂生态模型的平衡

我正在尝试在Dask环境中运行生态模型。尽管我并不完全满意计算的速度。我在单台计算机上本地运行。是否有一些快速的...

回答 1 投票 0

还在使用糕点吗?

我最近试图找到Pastry DHT的实现,但找不到有效的源。我认为这是最大的实现https://www.freepastry.org/,但最近的稳定版本是...

回答 1 投票 -1

使用kubernetes进行分布式张量流训练

我想在我的kubernetes集群上使用分布式张量流训练模型。请提出kubeflow以外的其他方式

回答 1 投票 0

分析分布式系统

我想知道跟踪分布式系统中性能瓶颈的可能方法。我知道诸如X-Trace及其后代之类的工具(例如Dapper),但我对...

回答 2 投票 5

计算流数据集中事件之间的时间差

在我的应用程序中,将为用户执行的每个操作生成事件,并使用以下格式的数据生成事件-user_id | step_num | event_timestamp这些命令的顺序...

回答 1 投票 0

在远程过程中更改/访问远程变量

我是Julia的新手,正在尝试做一个非常简单的任务:将变量x = 1分配给每个进程,将x仅在进程2中更改为不同的值(将x本地更改为进程2)打印新值...

回答 1 投票 0

有关如何提高群集性能的建议?

我有一个相对较大的数据集,〜1000个文件,每个文件有1000行,〜1000列。我正在运行一个算法,其中每一步都需要遍历整个数据集并计算矩阵...

回答 1 投票 0

最佳实践:异步处理的同步响应

Web API在端点处接收客户的信用卡请求数据。端点将带有此数据的消息发送到Kafka。在本主题中,多个吊舱/容器将连接到Kafka,以用于...

回答 1 投票 0

最佳实践:来自异步处理的同步响应

Web API在端点上接收客户的信用卡请求数据。端点将带有此数据的消息发送到kafka。在本主题中,多个Pod /容器将连接到kafka,用于...

回答 1 投票 0


BOINC:有一个简单的示例,如何为该程序编写程序并将其实现到其客户端/服务器系统中?

我做了一个数值方法作为我的文凭论文,并用Java编写了代码。如果适当执行,则需要大量的计算时间。因此,我寻找了一个替代方案,并找到了BOINC。不幸的是我没有...

回答 2 投票 4

Raft,为什么新领导人的任期比老领导人大

在网络断开连接后,筏跟随者如何重新加入?一样。但是,将登录计算机0替换为计算机1吗?机器0离开后提交的日志将是什么?机器1 ...

回答 1 投票 0

MatLab并行计算工具箱:为同一任务使用更多内核

我有一台具有4个物理核心的笔记本电脑和MatLab并行计算工具箱。我需要执行两个独立的任务(非常昂贵,假设要计算密集,大,...的最大特征值...

回答 1 投票 0

高性能Fortran(HPF),没有指令?

在高性能Fortran(HPF)中,我可以使用DISTRIBUTE指令指定并行计算中涉及的数组的分布。例如,以下最小子例程将求和...

回答 1 投票 2

© www.soinside.com 2019 - 2024. All rights reserved.