从零部署到实时推理：Jetson AGX Orin上PyTorch与YOLOv11的完整实战指南

1. 开箱即用？先认识你的Jetson AGX Orin

拿到Jetson AGX Orin开发套件，很多朋友的第一反应可能就是插电、开机，然后迫不及待地想跑个AI模型试试。这种心情我特别理解，毕竟这块板子性能强悍，谁不想立刻体验一下呢？但根据我过去在边缘设备上“踩坑”的经验，直接开干往往会在后续遇到各种稀奇古怪的问题，比如库版本冲突、磁盘空间莫名其妙被占满，或者CUDA突然报错。所以，我的建议是，先花点时间，像认识一位新朋友一样，好好了解一下你的Orin。

首先，我们得确认系统的基础环境。Jetson系列设备最大的特点就是其软硬件一体的JetPack SDK。它就像是Orin的“操作系统全家桶”，包含了Linux系统、CUDA、cuDNN、TensorRT等所有核心组件。开机后，打开终端，输入 cat /etc/nv_tegra_release 这个命令。它会告诉你当前安装的JetPack版本号，比如 # R35 (release), REVISION: 4.1, GCID: 25531747, BOARD: t186ref, EABI: aarch64, DATE: Fri Feb 10 00:32:52 UTC 2023。这里的“R35”就对应着JetPack 5.1.x系列。知道这个版本号至关重要，因为它决定了你能安装的PyTorch、TensorRT等软件的版本，版本不匹配是后续一切痛苦的根源。

除了看系统文件，更直观的方法是使用 sudo apt-cache show nvidia-jetpack 命令。它会列出已安装的JetPack组件的详细版本信息。我习惯把这两条命令的输出结果截图保存，建立一个简单的“设备档案”。接下来，检查一下磁盘空间。Orin的默认存储是64GB eMMC，对于开发来说其实挺紧张的。运行 df -h，看看你的根目录还剩多少空间。如果剩余空间不足20GB，我强烈建议你在开始安装任何大型软件前，先挂载一块高速的NVMe SSD或者大容量U盘，并把后续的软件安装、项目代码都放到外置存储上。你可以通过 lsblk 命令查看所有存储设备，找到你的外置盘（通常是 /dev/nvme0n1 或 /dev/sda1），然后将其挂载到 /mnt 或 /media 下的某个目录。这一步操作能为你省去后续无数因为空间不足导致的编译失败和安装错误。

最后，做个简单的性能热身。运行 sudo jetson_clocks 可以解锁设备的最高运行频率，让CPU和GPU火力全开。再运行 sudo nvpmodel -m 0 将功耗模式设置为最大性能模式（MAXN）。这两个命令能确保你的Orin在后续编译和推理时处于最佳状态。当然，这会增加功耗和发热，如果只是做轻量测试，可以用 sudo nvpmodel -m 2 切换到平衡模式。完成这些准备工作后，你的Orin才算真正“准备就绪”，可以迎接复杂的软件生态部署了。

2. 为Orin量身打造PyTorch环境

在x86电脑上安装PyTorch可能就是一行 pip install torch 的事，但在基于ARM架构的Jetson Orin上，这条路走不通。我们必须安装NVIDIA官方为Jetson平台预编译好的PyTorch wheel包。这一步是核心，也是第一个容易“翻车”的地方。

首先，找到正确的安装源。不要去PyTorch官网，而是直接访问NVIDIA开发者论坛的专用帖子（链接通常类似 https://forums.developer.nvidia.com/t/pytorch-for-jetson）。这个帖子就像是一本“武功秘籍”，里面列出了不同JetPack版本对应的PyTorch版本矩