不用Docker也能行！Jetson AGX Orin极简PyTorch配置法（实测JetPack 6.0）

不用Docker也能行！Jetson AGX Orin极简PyTorch配置法（实测JetPack 6.0）

最近在Jetson AGX Orin上折腾AI项目，发现一个挺有意思的现象：很多开发者一上来就直奔Docker，觉得容器化是唯一“标准”的部署路径。诚然，Docker提供了绝佳的环境隔离和可复现性，但对于Jetson这类资源受限、且需要极致榨取硬件性能的边缘设备来说，原生系统直装往往能带来更直接的硬件访问、更少的资源开销，以及更灵活的调试空间。特别是当你需要直接调用TensorRT、CUDA Graph或者进行底层性能剖析时，跳出容器这层“套子”可能会发现一片新天地。

这篇文章就是写给那些希望绕过容器化“舒适区”，直接在JetPack 6.0系统上搭建高效、稳定PyTorch环境的开发者。我们将聚焦于Jetson AGX Orin，但其中的思路和方法对Orin NX、Xavier NX等基于ARM架构的Jetson设备同样具有参考价值。整个过程力求极简，避开那些容易让人踩坑的复杂依赖链，直击核心安装与验证环节。如果你正在为机器人、自动驾驶小车或者工业质检设备部署深度学习模型，并且对推理延迟和能效比有苛刻要求，那么这篇原生配置指南或许正是你需要的。

1. 环境审视与准备工作：理解JetPack 6.0的“地基”

在动手安装任何软件之前，先花几分钟彻底了解你的系统环境，这能避免后续90%的版本兼容性问题。JetPack 6.0作为NVIDIA为Jetson Orin系列推出的重磅更新，带来了CUDA 12.2、cuDNN 8.9等新组件，其软件栈与之前的JetPack 5.x有显著不同。

首先，通过终端确认你的JetPack和CUDA版本。打开终端，依次执行以下命令：

# 查看JetPack版本信息
sudo apt-cache show nvidia-jetpack | grep Version

# 查看CUDA编译器版本，这是判断CUDA环境最直接的命令
nvcc --version

# 查看系统架构，确认是aarch64（ARM64）
uname -m

在我的Jetson AGX Orin（64GB）上，执行nvcc --version后输出如下：

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2023 NVIDIA Corporation
Built on Mon_Apr__3_17:36:24_PDT_2023
Cuda compilation tools, release 12.2, V12.2.128
Build cuda_12.2.r12.2/compiler.32688072_0

这表明系统预装的是CUDA 12.2。这一点至关重要，因为PyTorch的预编译wheel文件需要严格匹配CUDA主版本号。

接下来，安装一个非常实用的系统监控工具jtop，它不仅能直观展示JetPack各组件的版本，还能实时监控CPU、GPU、内存的使用情况以及芯片温度。

# 安装pip3（如果尚未安装）
sudo apt update
sudo apt install python3-pip -y

# 安装jetson-stats
sudo -H pip3 install -U jetson-stats

# 安装完成后，重启系统以使内核模块生效
sudo reboot now

# 重启后，运行jtop（需要sudo权限）
sudo jtop

运行sudo jtop后，按数字键1可以进入设备信息页面。这里你应该能看到类似下面的关键信息汇总：