我们如何通过网络共享GPU

Question

我长期以来一直在考虑通过计算机网络共享 GPU。假设有一台具有 GPU 的计算机/VM 和另一台不具有 GPU 的计算机/VM B。计算机 B 如何通过网络利用 A 的 GPU？

我知道这很难做到，因为 GPU 是硬件，但我们实际上可以通过网络共享 CPU。是否可以做到...在 Kubernetes 中，我们可以在同一节点中的两个 pod 之间共享 GPU（证明），但不能在不同节点中的不同 pod 之间共享。

请帮助我找到一种在不同节点/机器之间共享 GPU 的方法。

Answer 1

JuiceLabs 有一个 GPU-over-IP 产品，其中的社区版本可能会满足您的需求。