OpenMPI MPI_Send vs Intel MPI MPI_Send

Question

我有一个代码，我使用openmpi编译和运行。最近，我想使用英特尔MPI运行相同的代码。但我的代码没有按预期工作。我深入研究了代码，发现MPI_Send在两个实现中表现不同。

我从不同的论坛得到了建议，使用MPI_Isend而不是来自不同论坛的MPi_Send。但这需要很多工作来修改代码。英特尔MPI中是否有任何解决方法使其像OpenMPI一样工作。可能是一些Flags或Increase Buffer或其他东西。提前感谢您的回答。

int main(int argc, char **argv) {
    int numRanks;
    int rank;
    char cmd[] = "Hello world";
    MPI_Status status;

    MPI_Init (&argc, &argv);
    MPI_Comm_size (MPI_COMM_WORLD, &numRanks);
    MPI_Comm_rank (MPI_COMM_WORLD, &rank);
    if(rank == 0) {
            for (int i=0; i< numRanks; i++) {
                    printf("Calling MPI_Send() from rank %d to %d\n", rank, i);
                  MPI_Send(&cmd,sizeof(cmd),MPI_CHAR,i,MPI_TAG,MPI_COMM_WORLD);
                    printf("Returned from MPI_Send()\n");
            }
    }
    MPI_Recv(&cmd,sizeof(cmd),MPI_CHAR,0,MPI_TAG,MPI_COMM_WORLD,&status);
    printf("%d receieved from 0 %s\n", rank, cmd);

    MPI_Finalize();
}

OpenMPI结果

# mpirun --allow-run-as-root  -n 2  helloworld_openmpi
Calling MPI_Send() from rank 0 to 0
Returned from MPI_Send()
Calling MPI_Send() from rank 0 to 1
Returned from MPI_Send()
0 receieved from 0 Hello world
1 receieved from 0 Hello world

英特尔MPI结果

# mpiexec.hydra -n 2 /root/helloworld_intel

Calling MPI_Send() from rank 0 to 0

坚持MPI_Send。

Answer 1

假设MPI_Send()将在匹配的接收发布之前返回是不正确的，因此您的代码在MPI标准方面是不正确的，并且您很幸运它没有与Open MPI挂起。

MPI实现通常急于发送小消息，因此MPI_Send()可以立即返回，但这是标准不强制要求的实现选择，“小”消息取决于库版本，您正在使用的互连和其他因素。

这里唯一安全和便携的选择是编写正确的代码。

FWIW，MPI_Bcast(cmd, ...)在这里更合适，假设所有排名已经知道字符串长度加上NUL终止符。

最后但并非最不重要的是，缓冲参数是cmd而不是&cmd。