TensorFlow Bug记录 CUBLAS_STATUS_NOT_INITIALIZED

Traceback (most recent call last): File "main.py", line 20, in <module> model.train( File "/home/maling/miniconda3/envs/paddle/lib/python3.8/site-packages/paddlex/cv/models/faster_rcnn.py", line 355, in train self.net_initialize( File "

调用nn.linear时出现RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublas’错误，搜索网上资料，主要指出以下原因： batch size太大（本人将batchsize设置成4，够小吧！还是不行。。。） CUDA版本和torch不匹配（本人cuda版本是10.1，pytorch版本安装的是cuda10.1+python3.8的pytorch1.6，不是这个原因） torch版本问题（调换版本依旧不行）

在使用CUBLAS库进行GPU加速的线性代数运算时，出现CUBLAS_STATUS_NOT_INITIALIZED错误是比较常见的问题。在使用CUDA加速库时，特别是在使用CUBLAS库进行GPU加速的线性代数运算时，有时我们可能会遇到CUBLAS_STATUS_NOT_INITIALIZED错误。在本篇文章中，我们将深入探讨这个错误的原因，并给出解决方法。CUBLAS_STATUS_NOT_INITIALIZED错误的主要原因是在调用CUBLAS函数之前未正确初始化CUBLAS库。

CUBLAS_STATUS_NOT_INITIALIZED 问题的解决 GPU内存不够

1.CUBLAS_STATUS_NOT_INITIALIZED 2.tensorflow/stream_executor/cuda/cuda_blas.cc:443] failed to create cublas handle: CUBLAS_STATUS_NOT__INITIALIZED 3. tensorflow.python.framework.errors_impl.Inter...

报错提示：failed to create cublas handle: CUBLAS_STATUS_NOT_INITIALIZED 今天跑yolov4程序时，在predict图片时，出现了如上的报错。 查阅资料后发现，该报错是指没有分配显存或显存不够的时候才会报。 ##在用gpu跑程序时，如果没有手动分配显存的话，默认能占多少占多少，但是占用过多可能会导致系统运行出错。所以给我们整了个报错.解决方案参考的该博主的config的说明，链接贴在后面。代码如下： physical_devices = tf.co

CUBLAS_STATUS_NOT_INITIALIZEDtensorflow/stream_executor/cuda/cuda_blas.cc:443] failed to create cublas handle: CUBLAS_STATUS_NOT_INITIALIZEDtensorflow/stream_executor/cuda/cuda_blas.cc:443] failed to ...

没有初始化成功有可能是当前GPU正在忙可以使用可能会输出如下图片：查看当前哪些GPU空闲；接着再使用指定GPU命令进行运行；

RuntimeError: [enforce fail at …\c10\core\CPUAllocator.cpp:75] data. DefaultCPUAllocator: not enough memory: you tried to allocate 50331648 bytes. Buy new RAM! pytorch:RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling cublasCreate(handle) b

使用tensorboard过程中的一些错误

CUDNN_STATUS_NOT_INITIALIZED解决办法

解决error：RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)`

C:/cb/pytorch_1000000000000/work/aten/src/ATen/native/cuda/Indexing.cu:658: block: [11,0,0], thread: [56,0,0] Assertion `srcIndex < srcSelectDimSize` failed. cpu运行下报错：IndexError: index out of range in self；GPU上运行时报错：CUDA error: CUBLAS_STATUS_NOT_INITIALIZ

后将cuda改为‘cpu’模式，发现报错为index溢出，定位错误在tokenizer，经检查发现是BERT和XLM的tokenizer中的pad_token_id是不同的，前者为0，后者为1，改正后，即可运行。（2）tokenizer和language model不匹配；经检查代码，发现匹配无误；（4）cuda版本问题；由于是改代码，前面代码未出现该问题，因此不考虑该假设。（3）维度存在不一致；经检查代码，类别数、隐向量和词向量维度都是正确的；（1）CUDA内存溢出；

2. 在 **"高级"** 选项卡 → **"性能"** → **"设置"** → **"高级"** → **"虚拟内存"** → **"更改"**。- **初始大小**：建议设为物理内存的 **1.5 倍**（如 16GB 内存可设为 24576 MB）。- **最大值**：建议设为物理内存的 **3 倍**（如 16GB 内存可设为 49152 MB）。1. 右键 **"此电脑"** → **"属性"** → **"高级系统设置"**。

方法参考了https://github.com/tensorflow/tensorflow/issues/45070 在主代码中加入 physical_devices = tf.config.list_physical_devices('GPU') tf.config.experimental.set_memory_growth(physical_devices[0], True) 即可解决这个错误 相当简单 ...

问题描述： 2019-03-21 14:50:28.772516: E tensorflow/stream_executor/cuda/cuda_blas.cc:462] failed to create cublas handle: CUBLAS_STATUS_NOT_INITIALIZED 解决方法： sudo rm -rf ~/.nv/ 参考：https://stackoverflo...