CUDA and cuDNN 配置

CUDA

CUDA是NVIDIA推出的用于自家GPU的并行计算框架，也就是说CUDA只能在NVIDIA的GPU上运行，而且只有当要解决的计算问题是可以大量并行计算的时候才能发挥CUDA的作用。

cuDNN

cuDNN（CUDA Deep Neural Network library）：是NVIDIA打造的针对深度神经网络的加速库，是一个用于深层神经网络的GPU加速库。如果你要用GPU训练模型，cuDNN不是必须的，但是一般会采用这个加速库。

CUDA Driver Version和CUDA Runtime Version的区别

        GPU Driver, CUDA 和 PyTorch的版本关系

CUDA Toolkit 安装

• 安装之前首先要确认你需要安装的CUDA和cuDNN的版本
  • 首先确定CUDA的版本
  • 然后选择一个与之适配cuDNN版本
• root权限同时安装多个版本的cuda，并且进行配置
• 非root权限从已安装的CUDA版本中选择合适的版本，在修改环境变量进行配置

1. 切换CUDA的两种方式

   1. 修改 ~/.bashrc 中CUDA的环境变量（推荐）
   2. 修改cuda库的软连接（root权限）

2. 官网下载目标版本的CUDA

   Installer Type 选择 runfile（local），比较方便

   下载地址：http