使用 mp4ipy 在 hpc 上处理大数据

Question

我的项目与处理多节点多核数据有关。 我将使用第一个核心读取文件并将它们发送到其他核心来处理大数据。 然后，每个核心将结果发回给第一个核心进行汇总和展示。 我在这里遇到的问题是第一个核心如何在 rank == 0 块内发送数据和接收结果。我觉得这会导致这里出现同步问题，但我对 mpi4py 中的功能不太熟悉。

此外，我很困惑 mpi4py 如何通过 srun -N 命令知道我们正在使用多少个节点？ 最后，#SBATCH指定节点和任务，但是srun也要指定节点和任务，它们有什么区别？

谢谢。