“图形处理单元”的缩写。有关编程传统图形应用程序的信息，请参阅“图形编程”的标记条目。对于使用GPU的通用编程，请参阅“gpgpu”的标记条目。对于特定的GPU编程技术，请参阅“opencl”，“cuda”和“thrust”的热门标签条目。
nvidia/cuda和tensorflow/tensorflow图像之间的区别
从 GPU 支持的角度来看，tensorflow/tensorflow 图像与 nvidia/cuda docker 图像有什么根本不同？我不关心例如Python 的东西。比如说我...
当我运行 best_model = Compare_models() 时，CPU 内存上有巨大的负载，而我的 GPU 未得到利用。如何在 GPU 上运行 setup() 或 Compare_models()？ PyCaret 中有内置方法吗？
LLVM 具有适用于 AMD 和 NVIDIA GPU 的后端。目前是否可以使用 clang 将 c++（或子集）编译为 GPU 代码并运行它？显然像标准库这样的东西会是
除了“cuda”之外，你能在“hip”或“OpenCL”等其他任何东西上加速 torch DL 训练吗？
我注意到 torch.device 可以接受一系列参数，确切地说是 cpu、cuda、mkldnn、opengl、opencl、ideep、hip、msnpu。 然而，在训练深度学习模型时，我只见过cuda...
我使用统一内存来简化对 CPU 和 GPU 上数据的访问。据我所知，cudaMallocManaged 应该在设备上分配内存。我写了一个简单的代码来检查： #定义类型...
我在 GPU 上使用 pickle 保存了 Bert 的最后一个隐藏层，以供后续流程使用。 # 输出是bert的最后一个隐藏层，在GPU上转换 将 open(文件名, 'wb') 作为 f: pk.dump（输出，...
确定cuda/GPU作为LLM生成器的设备时出现问题，总是回到CPU
背景：我正在尝试微调 Microsoft 的 Phi-2 模型，这是一个发布在 HuggingFace 上的 25 亿参数 LLM，其指令调整有超过 2000 条引用。我想创建一个
ModuleNotFoundError：没有名为“nvcc_plugin”的模块
我正在尝试在 Colab 上使用 cuda c，遵循了设置 cuda c 的整个过程，我遇到的唯一问题是加载扩展 ModuleNotFoundError：没有名为“nvcc_plugin”的模块 （https...
如何将 FFmpeg AVFrame 中的 CUdeviceptr 平面复制到我自己的 CUDA 内存中？
我试图将FFmpeg（CUDA）解码的帧平面复制到我自己的CUDA内存中，但我尝试了很多次，但都失败了。 1，来自 FFmpeg 文档，它说： /// HW 加速通过... 我试图将FFmpeg（CUDA）解码的帧平面复制到我自己的CUDA内存中，但我尝试了很多次，但都失败了。 1，来自 FFmpeg 文档，它说： /// <summary>HW acceleration through CUDA. data[i] contain CUdeviceptr pointers exactly as for system memory frames.</summary> @AV_PIX_FMT_CUDA = 117 这意味着 AVFrame.data[n] 是要复制的 CUdeviceptr。 2，我已经毫无问题地创建了自己的 CUDA 内存： var dstPtr = new CUdeviceptr(); var error = cuMemAlloc_v2(ref dstPtr, length); 3、尝试从AVFrame复制到dstPtr，但失败了： var dstPtr = new CUdeviceptr(); var error = cuMemAlloc_v2(ref dstPtr, length); // allocate a CUDA mem for test var plane = ffmpeg.av_frame_get_plane_buffer(avFrame, 0); // get the plane 0 info var srcPtr = new CUdeviceptr((long)plane->data); // get CUdeviceptr from data[0] error = cuMemcpyDtoD_v2(dstPtr, srcPtr, plane->size); // try to copy from avFrame into my own CUDA mem block Debug.Assert(error == CUResult.Success); // alway fail..... 复制结果一直是ErrorInvalidValue表示从AVFrame.data[0]返回的CUdeviceptr无效什么的.... 我真的不知道我做错了什么...... 顺便说一句，我已经创建了一个用于内存分配的 CUDA 上下文，也就是说，我将在分配内存之前将自己的 CUDA 上下文设置为当前上下文，此操作是否会破坏 FFmpeg 的当前上下文？那么副本会失败吗？ 但是无论如何，无论我使用cuCtxPushCurrent_v2还是cuCtxSetCurrent，都不起作用。 这只是一个非常简单的复制测试，不是吗？但为什么......:( 答案很简单：使 FFmpeg 的 CUcontext 正确当前。
我正在尝试索引到 rustgpu 中的纹理数组，我有以下着色器代码： #![cfg_attr(target_arch = "spirv", no_std, feature(lang_items))] #![允许(内部特征)] 外部
我正在尝试使用 MAGMA (http://icl.cs.utk.edu/magma/) 在 GPU 上执行一些矩阵运算。我能够成功调用 CUDA 内核，并且没有任何问题。但当我...
尽管我在 Kaggle 中打开了 GPU，但为什么它没有被使用？
我已经在kaggle上上传了一个数据集（约73GB），并且我正在尝试预处理这些数据以用于模型训练目的。该数据集有很大的数量。缺失值，我正在尝试对其进行插值...
有时，我的 CUDA 程序中的错误会导致桌面图形损坏（在 Windows 中）。通常，屏幕仍然具有一定的可读性，但是当图形发生变化时，例如拖动窗口时，很多...
我正在Matlab中编写GPU代码，但似乎无法访问FP32，只能访问FP64，虽然精度更好，但我们需要能够让它在消费级Nvidia卡上快速运行。我读过（
我最近学习了如何使用 C 中的 OpenCL 对我的 AMD GPU 进行编程。但是，如果我给 GPU 的任务要求太高，我的整个系统就会停止正常工作，我必须重新启动。我正在使用林...
我能找到的所有资源都提到了进行 openGL 编程的以下步骤： 使用 sfml 或 glfw 创建窗口。 使用 GLAD 加载 openGL 函数指针。 创建一个 openGL 上下文并附加我...
在 Sagemaker 端点上部署 LLM - CUDA 内存不足
我正在尝试使用自定义脚本将 LLM 部署到 Sagemaker Endpoint，但遇到错误： CUDA 内存不足。尝试分配 20.00 MiB。 GPU 1 的总容量为 22.20 GiB，其中 13.1...
GPU 上稀疏线性系统的解决方案，来自 nvidia 的论文
我正在阅读一篇关于在 GPU 上求解线性系统（稀疏）的 Nvidia 文章。我陷入了 chainPtrHost 数据结构的构建上。我明白它的作用，但我不明白......
我想在我的笔记本电脑中训练 gpt2 模型，我的笔记本电脑中有一个 GPU，我的操作系统是 windows ，但我在 python 中总是遇到此错误： 火炬._C._cuda_init() 运行时错误：没有可用的 CUDA GPU 当我...
Python中使用gpu，nvcc的PATH中包含空格无法正常调用
这是我在 Stack Overflow 上的第一个问题。 我正在使用 spacy 学习文本分析，但使用 GPU 时遇到问题。 -------------------------------------------------- ------------------------------------------...