CUDA error: invalid device ordinal 解决方法

本文主要探讨了在使用PyTorch时遇到的显卡设备调用问题,包括显卡编号不匹配、torch安装错误,以及如何通过NVIDIA-SMI工具确认硬件状态和通过device重新设置GPU编号来解决问题。
Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

本镜像基于 RTX 4090D 24GB 显存 + CUDA 12.4 + 驱动 550.90.07 深度优化,内置完整运行环境与 Qwen3-32B 模型依赖,开箱即用。

出现该问题通常是由于显卡设备调用问题,包括但不限于:
1. 超出显卡编号/不存在该显卡,解决方案:使用nvidia-smi确定显卡编号。
2.错误的调用/torch未正确安装 :
 

import torch

x = torch.rand(5, 5)
x = x.cuda()  # 尝试将 tensor 移动到 GPU
print(x)

通过上述测试代码查看GPU能否正常调用。

3.通过前列排查确定环境/GPU/torch版本正常:则可以通过以下代码来进行device的重新传值解决问题:

device = torch.device('cuda:1')

其中 cuda:1更改为自己所需GPU的编号即可

您可能感兴趣的与本文相关的镜像

Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

Qwen
文本生成
Qwen3

本镜像基于 RTX 4090D 24GB 显存 + CUDA 12.4 + 驱动 550.90.07 深度优化,内置完整运行环境与 Qwen3-32B 模型依赖,开箱即用。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值