AGX Orin 部署PyTorch与Torchvision 2026避坑指南

1. 环境准备与系统配置

拿到AGX Orin开发板后，第一件事就是做好系统环境准备。我刚开始用Orin时犯了个错误，直接按照常规服务器的思路来配置，结果踩了不少坑。Orin采用的是ARM64架构（aarch64），这和常见的x86服务器完全不同，很多预编译的包都不能直接用。

JetPack 6.2是2026年最新的系统版本，基于Ubuntu 22.04，带来了CUDA 12.6等关键更新。开机后首先连接显示器，Orin的DP接口是唯一能直接输出视频的接口，Type-C接口只能用于供电和数据传输。首次启动会进入Ubuntu安装界面，按照提示完成基本系统安装即可。

安装完成后，我强烈建议先更新系统并安装jetson-stats工具包：

sudo apt update
sudo apt upgrade
sudo apt install python3-pip
sudo apt install jetson-stats

安装完成后运行jtop命令，这个工具非常实用，可以实时查看GPU状态、内存使用情况和系统版本信息。在jtop界面的第一行就能看到JetPack的详细版本号，这是后续安装PyTorch的重要依据。

注意：不要用nvidia-smi查看CUDA版本！Orin上的这个命令显示的是CUDA驱动版本，不是运行时版本。实际CUDA版本应该通过nvcc --version查看，或者在Python中用torch.version.cuda查看。

2. Python环境配置

AGX Orin的内存和算力都相当充足，但我还是推荐使用虚拟环境来管理Python项目。conda在aarch64架构上的支持已经相当完善，比直接使用系统Python更加灵活。

首先下载Anaconda的ARM64版本。注意一定要选择aarch64架构的安装包，x86的版本根本无法运行：

wget https://repo.anaconda.com/archive/Anaconda3-2024.10-Linux-aarch64.sh
bash Anaconda3-2024.10-Linux-aarch64.sh

安装完成后创建专用虚拟环境。这里有个关键点：必须使用Python 3.10！虽然网上很多老教程推荐Python 3.8，但JetPack 6.2的官方PyTorch版本都是针对Python 3.10编译的：

conda create -n torch_env python=3.10
conda activate torch_env

为什么坚持用Python 3.10？我实测发现，PyTorch 2.6.0在Python 3.8下会出现各种奇怪的兼容性问题，特别是torchvision的编译环节。Python 3.10在Orin上的性能也更好，内存管理更高效。

3. PyTorch安装与验证

PyTorch的安装是整个过程中最容易踩坑的环节。2026年初的常见问题是：直接从PyPI安装的版本要么不兼容ARM架构，要么无法识别Orin的GPU。

正确的做法是使用NVIDIA官方为JetPack 6.2定制的wheel包。首先安装必要的基础依赖：

sudo apt install libopenblas-dev libopenmpi-d