torch.cuda命令查询

本文详细介绍如何使用Linux命令查询服务器GPU状态,包括显卡信息、显存利用率等,并深入讲解PyTorch中CUDA模块的主要函数,如GPU检测、资源管理及随机种子设置,帮助读者掌握GPU资源的有效利用。
Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

本镜像基于 RTX 4090D 24GB 显存 + CUDA 12.4 + 驱动 550.90.07 深度优化,内置完整运行环境与 Qwen3-32B 模型依赖,开箱即用。

1. 服务器GPU状态查询

    1) lspci | grep -i nvidia 可以查询所有nvidia显卡

    2) lspci -v -s [显卡编号] 可以查看显卡具体属性

    3) nvidia-smi 可以查看显卡的显存利用率

2. torch.cuda主要函数

    1) 查看是否有可用GPU: torch.cuda.is_available()

可用GPU数量:

    gpus = torch.cuda.device_count()
    logger.info(f'use {gpus} gpus')
    logger.info(f"args: {args}")

    2) 查看当前使用的GPU序号:torch.cuda.current_device()

    3) 查看指定GPU的容量、名称:

        torch.cuda.get_device_capability(device),  torch.cuda.get_device_name(device)

    4) 清空程序占用的GPU资源: torch.cuda.empty_cache()

5) 为GPU设置随机种子:torch.cuda.manual_seed(seed), torch.cuda.manual_seed_all(seed)

您可能感兴趣的与本文相关的镜像

Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

Qwen3-32B-Chat 私有部署镜像 | RTX4090D 24G 显存 CUDA12.4 优化版

Qwen
文本生成
Qwen3

本镜像基于 RTX 4090D 24GB 显存 + CUDA 12.4 + 驱动 550.90.07 深度优化,内置完整运行环境与 Qwen3-32B 模型依赖,开箱即用。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值