Jetson Orin NX深度学习环境配置：从零搭建PyTorch与TensorRT加速实战

1. 环境准备与基础配置

拿到Jetson Orin NX的第一件事，就是做好基础环境配置。我建议直接从NVIDIA官网下载最新的JetPack SDK，这是最省事的方案。我实测过JetPack 5.1.2版本，稳定性相当不错，CUDA 11.4、cuDNN 8.6这些核心组件都预装好了，省去很多折腾时间。

安装完系统后，第一件事就是更新软件源。Jetson Orin NX用的是ARM架构，很多软件包需要从特定源获取。我习惯用清华源，速度会快很多：

sudo cp /etc/apt/sources.list /etc/apt/sources.list.backup
sudo sed -i 's/ports.ubuntu.com/mirrors.tuna.tsinghua.edu.cn/' /etc/apt/sources.list
sudo apt update

接下来安装jtop这个神器，它能实时监控Jetson的运行状态，包括CPU、GPU、内存使用情况，还有JetPack各组件的版本信息：

sudo apt install python3-pip
sudo -H pip3 install -U jetson-stats

装完后直接运行jtop，就能看到漂亮的监控界面。这里要特别注意CUDA版本是否正常显示，我遇到过因为驱动问题导致CUDA不识别的情况，这时候需要重新安装NVIDIA驱动。

2. PyTorch GPU版本安装

Jetson平台安装PyTorch有个坑：直接用pip install会装成CPU版本。必须从NVIDIA官网下载预编译的whl文件。我建议去PyTorch for Jetson页面找对应版本，JetPack 5.1.2对应的是PyTorch v2.1.0。

下载whl文件后，安装命令很简单：

pip install torch-2.1.0a0+41361538.nv23.06-cp38-cp38-linux_aarch64.whl

这里有个细节要注意：如果下载速度慢，可以加上清华源加速：-i https://pypi.tuna.tsinghua.edu.cn/simple

安装完成后一定要验证GPU是否可用：

import torch
print(torch.__version__)
print(torch.cuda.is_available())
print(torch.cuda.get_device_name(0))