最近,我一直在使用 causal_conv1d 库进行机器学习编程,而 causal_conv1d 是 mamba_ssm 库的一部分。但是,我只能在 NVIDIA GPU 上运行这些库。我使用的是带有M系列芯片(M2 PRO)的MAC机器。如何在我的 MAC 机器上使用 causal_conv1d 库或者是否有任何可用的替代库?
我尝试使用 MPS 版本安装 PyTorch,但 causal_conv1d 库似乎直接需要对 nvcc 和 CUDA 的支持。
Mamba 的
causal_conv1d
实现来自 this repo,它使用自定义 cuda 内核实现 causal_conv1d
操作。
Cuda 内核无法在 Mac 芯片上运行。要在 Mac 芯片上运行
causal_conv1d
,您需要在 Metal 或其他 Mac 兼容框架中重写内核。
据我所知,目前不存在 Mac 兼容版本。