python代码调用gpu/cuda异常，已解决

最新推荐文章于 2024-12-31 12:47:32 发布
原创 最新推荐文章于 2024-12-31 12:47:32 发布 · 6.5k 阅读 · 0 ·
本内容遵循CC 4.0 BY-SA版权协议
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
标签
#python #pytorch #深度学习
Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

本镜像基于 RTX 4090D 24GB 显存 + CUDA 12.4 + 驱动 550.90.07 深度优化，内置完整运行环境与 Qwen3-32B 模型依赖，开箱即用。

问题：RuntimeError: CUDA error: kernel launch failure when calling `cusparseXcoo2csr(handle, coorowind, i_nnz, i_m, csrrowptr, CUSPARSE_INDEX_BASE_ZERO)`

原因：大概率的原因是：pytorch版本与服务器上的cuda版本不匹配导致的；

还有一部分原因可能是gpu都被占用了，没有资源了，需要kill掉一些进程。

解决：首先查看自己服务器上的cuda版本，使用命令：nvidia-smi；

然后在pytorch官网下载对应cuda版本的pytorch，地址：Previous PyTorch Versions | PyTorch。

您可能感兴趣的与本文相关的镜像

Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

Qwen
文本生成
Qwen3

本镜像基于 RTX 4090D 24GB 显存 + CUDA 12.4 + 驱动 550.90.07 深度优化，内置完整运行环境与 Qwen3-32B 模型依赖，开箱即用。

沙漠小傻
关注
pytorch 使用指定的GPU RuntimeError: CUDA error: invalid device ordinal
Hello Word!
07-31 3万+
pytorch使用指定GPU报错： Traceback (most recent call last): File "test_bed/process_deepglint.py", line 102, in <module> pred_dataset(outputFile) File "test_bed/process_deepglint.py", line 36, in pred_dataset pred_loader_deepg, model, criterion,
pytorch报错：RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling `cublasCreate(handle)`
科研学习笔记！
07-13 7542
多GPU分布式运行pytorch程序报错：RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling ‘cublasCreate(handle)`
【ComfyUI】RuntimeError: CUDA error: operation not supported
山鬼谣的专栏
09-20 1万+
最近好不容易，安装好ComfyUI后，启动也OK，点击生成图片时，报错了got promptadm 0!!!!!这个问题查了挺久的资料的，特意记录下解决方案。
RuntimeError: cuda runtime error (30)解决
Touch_Dream的博客
03-06 1613
程序出错如上，而且总是伴随着黑屏，一开始以为是cuda跑出问题，而且该问题必须重启才能解决，但是一直很好奇我的电脑Ubuntu18.04设置了黑白屏从不，还是出现该错误，最后为了复现该错误就强制锁屏，果然错误复现。找到原因之后就可以比较好解决，该死的Ubuntu18.04锁屏是在挂起里面设置，不是空白屏幕这里设置。重新设置了从不挂起解决问题。主要是锁屏之后显卡也进入休眠模式，导致出错！！！！！！！！！1 ...
RuntimeError: CUDA error: operation not supported when calling `cusparseCreate(handle)`
baidu_41800370的博客
10-29 3370
安装Isaac gym的时候安装了pytorch1.8.1，准备运行一个开源项目，出现上述问题。既然1.8.1版本的pytorch不行，作者为什么要在requirements.txt文件中写。更新pytorch版本。
Windows11安装CUDA、cuDNN、pytorch（GPU）详细教程（包含CUDA安装异常处理）
m0_68220374的博客
12-30 1万+
本文仅介绍Windows11系统下安装CUDA、cuDNN、pytorch（GPU）的详细教程，使用的是Anaconda+Pycharm的配置。关于这两个软件的下载安装，本文不做赘述，如有疑问，请大家自行搜索。
GPU启用及Pytorch/Cuda安装
weixin_45477704的博客
06-30 8385
最近在跑神经网络，用CPU跑实在是太慢了，于是决定探究一下怎么用GPU跑，配置GPU环境的过程异常艰辛，为此还阅读几十篇CSDN+知乎优秀博主的优质论文，最后终于整出来了，现在我总结一下就当做个备忘录吧。以下内容引用了很多博主的博客内容，如有侵权，立刻删除。...............
解决Python使用GPU
kfashfasf的博客
06-11 3252
推荐选择“自定义”安装，以便我们可以选择需要安装的组件。如果我们是第一次安装，建议选择全部组件；如果是更新或重新安装，可以选择只安装必要的组件。（4）
安装CUDA以及GPU版本的pytorch
qq_66608435的博客
08-27 4万+
打开NVDIA控制面板，点击左下角“系统信息”，然后就可以看到NVDIA GPU的详细信息，其中就包含了CUDA的版本。在官网安装合适版本的cuda-toolkit。然后在PyTorch官网找到正确版本进行下载安装。使用pytorch进行深度学习的时候，往往想用GPU进行运算来提高速度。于是搜索便知道了CUDA。这时候可能没有将CUDA添加到环境变量。, 以及PATH中是否包含了cuda的bin目录。会安装cpu版本的torch，导致无法使用cuda）卸载原先的torch，就会显示True了。
RuntimeError: cuda runtime error (30)问题解决
weixin_47725177的博客
05-23 1696
已经不是第一次遇到这个问题，在此记录一下解决方式，虽然很暴力但是好用，应该还有其他解决方式。以后实验好用后再补充。 出现该问题是因为cuda进入了休眠状态，所以程序运行出错，简单直接的解决方式是重启服务器完美解决 参考链接： https://blog.csdn.net/qijindao/article/details/116376768 ...
RuntimeError: CUDA error: operation not supported when calling cusparseCreate(handle)
m0_52261601的博客
08-18 2965
复现lightGCN在配置环境的时候出现了很多问题，狠狠记录让我恼火的几个大坑，在未来配置环境出现问题时提供一些思路（可恶autodl还我10块钱啊啊啊啊）：问题1根据官方配置的情况下出现很多安装包不匹配问题，官方配置如下（https://github.com/gusye1234/LightGCN-PyTorch/blob/master/requirements.txt）问题2当问题1解决之后，cuda持续报错。
解决RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors...CUDA_LAUNCH_BLOCKING=1
热门推荐
AI小白炼金术师
04-30 8万+
RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect.For debugging consider passing CUDA_LAUNCH_BLOCKING=1.
RuntimeError: CUDA error: initialization error when calling `cusparseCreate(handle)
星之所望的博客
08-26 1260
原因不明的错误，不知道为什么要进行cpu和gpu的转换。
python运行报错RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling `cublasCreate(handle)`
m0_52347246的博客
09-08 3万+
python运行报错*** RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling cublasCreate(handle) ***解决办法： 将所设的batch_size改小一点。因为是从github上copy的代码，所以跑不通其实挺正常，毕竟电脑配置啥的，都与作者的不一样。因此我们改成和自己电脑相匹配的就行。 将batch_size改成32，就成功运行。 大家遇到这种情况根据自身情况，改小一点即可。 本文借鉴于https://
RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling `cublasCreate(handle)`解决方案
qq_45128278的博客
08-23 765
把batchsize从16改成了8，可能是内存不够了。但是batchsize改为32才报错out of memory，不知道为什么。
解决RuntimeError: Expected a ‘cuda‘ device type for generator but found ‘cpu‘
最新发布
yscript的博客
12-31 578
解决RuntimeError: Expected a 'cuda' device type for generator but found 'cpu'
（报错解决）RuntimeError: CUDA error: CUBLAS_STATUS_EXECUTION_FAILED when calling `cublasGemmEx( handle, o
Mmaa100的博客
04-01 1436
当时我还在冥思苦想为什么明明运行了cuda安装对应指令，但在查看cuda是否可用时，仍输出为False，后来才知道是系统默认安装了cpu版本的库。该报错我搜集了很多资料，给出的解答很多，其实实际上就是cuda版本问题，对于pytorch1.8.1而言，cuda至少要11.x版本以上才行，当然其他pytorch版本遇到了这个报错，也建议将cuda安装到11.x版本以上。另外，在pytorch官网匹配版本时，当我使用conda安装11.x版本以上的cuda时，即。再运行代码，报错解决。
如何解决 RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED when calling `cublasCreate(handle)`
yaohaishen的专栏
01-13 1万+
本文方法限以下条件使用 运行环境没有改变 之前代码可以正常运行 代码修改后再同样的环境下出现了这个问题 如果满足以上三个条件，则一般不是CUDA出现了问题，则可以尝试用以下方法： 将代码在cpu上运行，不用GPU，这时候再报错就回给出具体出现问题的代码位置，有针对性的进行修改就好了 ...
RuntimeError: cuda runtime error (71) : operation not supported
qq_29015763的博客
05-26 2613
在Pytorch的官方文档上面找到了解决办法： 把num_worker数值改成0之后程序就能顺利运行了。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值