gpu 相关问题

“图形处理单元”的缩写。有关编程传统图形应用程序的信息,请参阅“图形编程”的标记条目。对于使用GPU的通用编程,请参阅“gpgpu”的标记条目。对于特定的GPU编程技术,请参阅“opencl”,“cuda”和“thrust”的热门标签条目。

在节点上为 GPU 作业预留一些 CPU

我正在使用 Slurm 设置 GPU 集群。这些节点具有可变数量的 CPU 核心 (8-32) 和可变数量的 GPU (1-4)。将要运行的 GPU 作业通常需要很少的 CPU

回答 1 投票 0

默认在 CPU 上运行作业,但在 Slurm 中可用时在 GPU 上运行作业

有没有办法用 sbatch 向 Slurm 提交作业,并在可用的情况下使用 GPU,但如果没有可用的 GPU,则在 cpu 上运行? 设置:#SBATCH --gres=gpu:1 仅在可用 GPU 的节点上运行...

回答 1 投票 0

python 3.8版本faiss-gpu安装失败

尝试使用 pip 安装 python faiss-gpu 库。 收集faiss-gpu 使用缓存的 faiss-gpu-1.7.1.post2.tar.gz (40 kB) 安装构建依赖项...完成 获取构建需求

回答 1 投票 0

Python - Gunicorn 在 GPU 推理上崩溃

我正在为 macOS 创建一个本地 API,用于处理 Python 中 ONNX 模型 (MiDaS) 的推理。我使用 onnxruntime-silicon (onnxruntime 的一个分支)在 Apple Silicon GPU 和 Flask 上运行模型

回答 1 投票 0

使用Pycuda:LogicError:cuMemAlloc失败:非法内存访问

我正在使用 Pycuda 创建一个 python 程序,以与 GPU 并行实现 Sobel 算法。 我的代码是: 导入 pycuda.autoinit 将 pycuda.driver 导入为 cuda 从 pycuda.compiler 导入 SourceMod...

回答 1 投票 0

如何在带有GPU的C#中使用Yolo V5?

我花了最后几天的时间尝试让 Yolo 在我的 GPU 上工作。我尝试使用 https://github.yuuza.net/mentalstack/yolov5-net,我按照他们的指南使用 GPU,但它不起作用。所有其他 C# Yolo 都...

回答 2 投票 0

有没有办法在GPU上使用sklearn?

我正在 sklearn 中使用 VotingClassifier 训练模型。 数据集很大,大约有 100 万行表格。 从 sklearn.ensemble 导入 RandomForestClassifier 从 sklearn.ensemble 导入

回答 1 投票 0

如何使用 GCP 上的 nvidia-ngc-public 计算映像虚拟机自动安装 NVIDIA 驱动程序?

我正在尝试使用此处找到的映像将虚拟机部署到启用了 GPU 的 GCP 计算引擎。我已从公开可用的 NVIDIA 映像成功创建了虚拟机(例如 nvidia-gpu-cloud-im...

回答 1 投票 0

tensorflow gpu - 内存增长和内存限制可以结合使用吗?

TF官方文档[1]提出了2种控制GPU内存分配的方法 内存增长允许 TF 根据使用情况增长内存 tf.config.experimental.set_memory_growth(gpus[0], True) 虚拟

回答 1 投票 0

为什么 GPU 可以与 `torch` 配合使用,但不能与 `tensorflow` 配合使用

我正在尝试将我的 GPU 卡应用到 Jupyter Notebook 中,但我被 TensorFlow 困住了。 但我用火炬成功了。 我有以下设置: (myen2v) C:\Users\Jan>conda 列表 cudnn # 爸...

回答 1 投票 0

计算算术强度

Nvidia 的 GPU 性能背景用户指南 (https://docs.nvidia.com/deeplearning/performance/dl-performance-gpu-background/index.html) 列出了以下 fp16 数据的算术强度

回答 1 投票 0

如何在 GPU CUDA 机器上安装 pip python fused_kernels 库?

https://github.com/EleutherAI/gpt-neox/blob/5dd366539803dbf1fd725cc057013fd002a4cfd4/requirements.txt#L28 融合内核@ file:///fsx/hailey/math-lm/gpt-neox/megatron/fused_kernels 28号线在这里是

回答 1 投票 0

覆盖 AWS Batch 计算环境的 EC2 映像 ID - 在 AWS CDK 堆栈上

我正在使用 AWS CDK(适用于 Python)创建 CloudFormation 堆栈,其主要组件之一是批处理计算环境,它应该运行 GPU 密集型作业。 批处理作业根本无法工作......

回答 1 投票 0

如何使用PyTorch作为通用函数优化器?

我有一个参数函数,应该在输入位置 X 处对某些数据 Y 的行为进行建模。我想使用 pytorch 优化器和 GPU,但那里的教程假设我想使用 ne...

回答 1 投票 0

在 GPU 上运行密集数学计算的最佳方式

我正在做一些学术/教育研究(主题与布尔逻辑及其扩展有关),并且有一个数学算法,我想在一些大的数字集上验证......

回答 1 投票 0

彩虹表是用GPU还是CPU运行?

我知道彩虹表,但这个问题是在面试时问我的,我无法回答。所以我的问题正如标题中所说我想知道彩虹表使用 GPU 还是 CPU...

回答 2 投票 0

在 GPU 上执行 Javascript 函数

我想在GPU上运行JavaScript函数以进行快速计算。 我尝试使用 gpu.js https://gpu.rocks https://github.com/gpujs/gpu.js 我的目标是能够执行一些简单的数组函数,例如“fo ...

回答 1 投票 0

pytorch 我什么时候需要在模型或张量上使用`.to(device)`?

我是 Pytorch 的新手,但它看起来很不错。我唯一的问题是何时使用tensor.to(device)或Module.nn.to(device)。 我正在阅读有关该主题的文档,它表明...

回答 2 投票 0

LLM 即使在 A100 GPU 上推理速度也很慢

我计划部署 Open-Orca-Platypus-2 的微调版本。 GPU 上大约需要 13.5GB。我尝试在具有 4 个 GPU 的 AWS 中使用 g4dn.12xlarge,但推理仍然需要大约 40

回答 2 投票 0

仅绘制圆形时,OpenCL 会比 OpenGL 更快吗?

我有一个2D游戏,除了UI之外,只需要绘制纯色圆圈。该游戏还已经使用 OpenCL 来计算圆圈的物理特性(有点像粒子模拟)。

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.