Nvidia Jetson AGX Orin 64G深度学习环境配置与Docker容器化部署实战

最新推荐文章于 2026-06-17 17:11:48 发布

原创

最新推荐文章于 2026-06-17 17:11:48 发布 · 1.1k 阅读

标签

#Nvidia Jetson #深度学习 #环境配置 #Docker容器化

拿到Nvidia Jetson AGX Orin 64G开发板的第一件事，就是搞定基础环境。很多人一上来就急着装CUDA、PyTorch，结果各种报错，其实问题往往出在系统层面没准备好。我自己踩过好几次坑，后来发现只要把JetPack装好了，后面的事情就顺了。

Jetson系列用的是ARM64架构，和咱们平时用的x86电脑不一样，所以很多软件包都得找对应的ARM64版本。官方推荐的JetPack SDK是个一站式解决方案，把CUDA、TensorRT、cuDNN这些深度学习必备的组件都打包好了，省得我们自己一个个去折腾兼容性问题。

先更新系统，确保所有包都是最新的：

sudo apt upgrade
sudo apt update
sudo apt dist-upgrade
sudo reboot

重启后安装JetPack，这个步骤需要比较好的网络环境，因为要下载大概4-5GB的内容：

sudo apt install nvidia-jetpack

我实测下来，在百兆宽带下大概要40分钟左右。如果中途断网了也不用慌，重新运行这个命令它会继续下载，不会从头开始。

装完JetPack后，强烈建议安装jtop这个神器。它不是系统自带的，但绝对是Jetson开发必备工具：

sudo apt install python3-pip
sudo -H pip3 install -U pip
sudo -H pip install jetson-stats

安装完成后，在终端输入jtop就能看到一个非常直观的系统监控界面，可以实时查看CPU、GPU、内存的使用情况，还能看到各个硬件模块的温度和功耗。按数字键1-6可以切换不同的监控面板，按q退出。

JetPack虽然已经装了CUDA，但还需要配置环境变量才能正常使用。打开.bashrc文件：

vim ~/.bashrc

在文件末尾添加这些内容（如果对vim不熟悉，可以用nano或者gedit）：

export LD_LIBRARY_PATH=/usr/local/cuda/lib64
export PATH=/usr/local/cuda/bin:$PATH
export CUDA_HOME=/usr/local/cuda

保存后让配置生效：

source ~/.bashrc

验证CUDA是否安装成功：

nvcc -V

如果看到CUDA版本信息（比如11.4），说明配置正确。我遇到过的情况是，有时候需要完全重启终端或者甚至重启系统才能生效，如果直接运行nvcc提示找不到命令，可以先试试新开一个终端。

cuDNN是深度学习加速库，JetPack已经安装好了，我们只需要做一些链接和权限设置：

cd /usr/include && sudo cp cudnn* /usr/local/cuda/include
cd /usr/lib/aarch64-linux-gnu && sudo cp libcudnn* /usr/local/cuda/lib64

修改文件权限，确保所有用户都能访问：

sudo chmod 777 /usr/local/cuda/include/cudnn.h
sudo chmod 777 /usr/local/cuda/lib64/libcudnn*

创建符号链接，这里的版本号要根据实际安装的cuDNN版本调整（可以用ls /usr/lib/aarch64-linux