Caffe：训练后的GPU CUDA错误：检查失败：错误== cudaSuccess（30 vs. 0）未知错误

Question

有时在训练之后或当我通过按CTRL + C手动停止训练时，我得到这个cuda错误：

检查失败：错误== cudaSuccess（30对0）未知错误

但这最近才开始发生。有没有人以前经历过这个或者你知道如何解决这个问题或者问题是什么？

完整日志：

I1027 09:29:37.779079 11959 caffe.cpp:217] Using GPUs 0
I1027 09:29:37.780676 11959 caffe.cpp:222] GPU 0: �|���
F1027 09:29:37.780697 11959 common.cpp:151] Check failed: error == cudaSuccess (30 vs. 0)  unknown error
*** Check failure stack trace: ***
    @     0x7f6cc4f465cd  google::LogMessage::Fail()
    @     0x7f6cc4f48433  google::LogMessage::SendToLog()
    @     0x7f6cc4f4615b  google::LogMessage::Flush()
    @     0x7f6cc4f48e1e  google::LogMessageFatal::~LogMessageFatal()
    @     0x7f6cc5558032  caffe::Caffe::SetDevice()
    @           0x40b3f8  train()
    @           0x407590  main
    @     0x7f6cc3eb7830  __libc_start_main
    @           0x407db9  _start
    @              (nil)  (unknown)

Answer 1

使用nvidia-smi命令查看GPU和CPU上正在运行的程序。如果你看到任何不需要的caffe实例在按下ctrl+c后仍在运行，你应该杀死那些有进程ID的那些。如下所示：

+------------------------------------------------------+                       
| NVIDIA-SMI 352.63     Driver Version: 352.63         |                       
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GeForce GTX 980 Ti  Off  | 0000:01:00.0      On |                  N/A |
| 58%   83C    P2   188W / 260W |   1164MiB /  6142MiB |     96%      Default |
+-------------------------------+----------------------+----------------------+
|   1  GeForce GTX 980 Ti  Off  | 0000:02:00.0     Off |                  N/A |
| 53%   73C    P2   127W / 260W |    585MiB /  6143MiB |     35%      Default |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID  Type  Process name                               Usage      |
|=============================================================================|
|    0      1101    C   ...-xx/build/tools/caffe   788MiB |
|    0      1570    G   /usr/bin/X                                     235MiB |
|    0      1594    C   /usr/bin/python                                102MiB |
|    0      2387    G   compiz                                          10MiB |
|    0      3984    G   /usr/local/MATLAB/R2016a/bin/glnxa64/MATLAB      2MiB |
|    1     25056    C   /usr/bin/caffe                                 563MiB |
+-----------------------------------------------------------------------------+

你应该用这个命令杀死sudo kill -9 1101

Answer 2

尝试做qazxsw poi - > qazxsw poi - > qazxsw poi。它应该工作

Answer 3

在运行Make all之后，注意到有关libcudnn libs的一些错误，我在/ usr / lib / x86_64-linux-gnu和/usr/local/cuda-8.0/lib64中重复了这些错误。在只留下/ usr / lib / x86_64-linux-gnu中的那些并重新启动笔记本电脑后，一切正常。

Answer 4

如果您的程序无法创建或打开/ dev / nvidia-uvm设备文件，则可能会显示CUDA运行时错误（30）。这通常通过安装包nvidia-modprobe来修复：

make all

Answer 5

尝试为当前内核重新安装/构建nvidia驱动程序

sudo apt-get install --reinstall nvidia-375

Answer 6

make test

如果您的程序无法创建或打开make runtest设备文件，CUDA运行时错误（30）可能会显示。这通常通过安装包nvidia-modprobe来修复：

（Qazxswpoi）