Jetson Orin NX 部署PyTorch与TensorRT环境：从零到推理实战

1. 环境准备与基础配置

拿到Jetson Orin NX的那一刻，我就被它小巧身材下的强大算力吸引了。不过说实话，刚开始配置环境时我也踩了不少坑，特别是PyTorch和TensorRT的兼容性问题。我的设备是Jetson Orin NX 16GB版本，系统为Ubuntu 22.04，已经刷好了JetPack 6.2，CUDA 12.6和cuDNN 9.6。如果你还没刷机，建议先完成基础系统安装。

在开始之前，有个小问题可能会遇到：浏览器打不开。我的Chromium浏览器就出现过这种情况，解决方法很简单，在终端输入：

sudo snap revert snapd

等待运行完成，浏览器就能正常使用了。这个问题的原因是snap包管理器的某些版本在Jetson上存在兼容性问题。

接下来我们需要安装Miniconda来管理Python环境。为什么选择Miniconda而不是Anaconda？因为Jetson的存储空间有限，Miniconda更加轻量，而且完全够用。

2. Miniconda安装与配置

Miniconda的安装其实很简单，但要注意选择正确的架构版本。Jetson Orin NX是ARM64架构，所以必须下载对应的ARM64安装包。

访问Miniconda官网的下载页面，找到Linux下面的ARM64安装包。我选择的是最新的Python 3.10版本，因为这个版本与JetPack 6.2的兼容性最好。

下载完成后，打开终端进入下载目录，执行安装命令：

bash Miniconda3-latest-Linux-aarch64.sh

安装过程中会提示你阅读许可协议，按回车继续，然后输入"yes"同意协议。接下来会询问安装路径，我直接使用默认路径/home/jetson/miniconda3。最后一步会问是否初始化conda，建议选择"yes"，这样每次打开终端都会自动激活base环境。

安装完成后，需要重启终端或者执行：

source ~/.bashrc

这样conda命令就可以正常使用了。

我习惯为每个项目创建独立的虚拟环境，这样可以避免包冲突。接下来我们为深度学习环境专门创建一个虚拟环境：

conda create -n deim python=3.10
conda activate deim

这里我命名环境为"deim"，你可以根据自己的喜好命名。

3. PyTorch安装详解

PyTorch的安装是最关键的一步，也是最容易出问题的地方。很多人在Jetson上安装PyTorch时直接使用pip install torch，这样安装的是x86架构的版本，根本无法使用。

正确的做法是到NVIDIA官方论坛的PyTorch for Jetson页面，下载对应版本的预编译包。我的JetPack 6.2对应CUDA 12.6，所以选择最新的torch 2.5.0版本。