RK3588极速成功部署YOLO26完整全链条：从pt导出、ONNX转换到rknn-toolkit-lite2落地与CMA内存优化

1. 前言：当高性能边缘算力遇见新一代 YOLO26

在边缘计算与智能物联网（AIoT）领域，瑞芯微 RK3588 凭借其内置的 6 TOPS NPU、强大的多路视频处理能力以及极高的性价比，已经成为工业检测、智能安防等场景的骨干硬件。

随着 Ultralytics 发布新一代轻量化端到端检测器 YOLO26，目标检测在边缘端的落地迎来了新的变革。YOLO26 最大的特点在于其原生端到端（NMS-Free）的设计：模型直接输出固定数量（如300个）的候选框，省去了传统 YOLO 部署中极其消耗 CPU 的非极大值抑制（NMS）后处理步骤。

本文将手把手带你完成 YOLO26 在 RK3588 上的完整部署流程，涵盖 PyTorch 模型导出、RKNN 格式转换（FP16 高精度构建）、以及基于 rknnlite 的 Python 物理板卡推理。同时，本文还会重点分享在边缘端进行多分辨率图像预处理的映射算法（直接缩放与经典 Letterbox 填充），以及预防 NPU CMA 内存碎片化的优化技巧。

2. 核心对比：RKNN NPU 加密部署 vs 传统 Ultralytics CPU 推理

许多开发者在拿到 RK3588 后的第一反应是直接使用 pip install ultralytics 并跑在 CPU 上，或者使用 ONNX Runtime 的 CPU 模式。下表客观对比了这两种部署路径在实际工程中的表现：

通过将 YOLO26 转换为 RKNN 格式并运行在 NPU 上，不仅能够将推理延迟降低几个数量级，还能腾出宝贵的 CPU 资源用于业务逻辑、推流或 GUI 交互。

当然，通过Ultralytics也能直接使用3588的npu进行推理，同时效率高于纯cpu推理，但是面临一个工程化的致命问题——无法指定模型加载的npu。
RK3588拥有6T的算力，但是6T算力是均分在三个npu上，每个npu仅有2Tops，而使用Ultralytics的YOLO推理底层虽然也使用到了rknnlite相关接口，但是并不能直接指定npu的使用。默认仅会使用第一个npu，导致无法同时加载多个模型、浪费另外两个npu，所以效率是远低于同时使用三个npu进行模型加载与推理。

三、全链条实战步骤与代码实现

整个部署流程可分为三个阶段：

1. [PC/开发机] 导出端到端 ONNX 格式；

2. [PC/开发机] 使用 RKNN-Toolkit2 将 ONNX 转换为 RKNN 模型；

3. [RK3588板卡] 使用 RKNN-Lite 驱动 NPU 进行高效推理。

1. 步骤一：PyTorch 权重导出为 ONNX (pt2onnx.py)

在你的深度学习训练环境（PC/服务器）中运行此脚本。为了保证算子兼容性，我们利用 ultralytics 库自带的 export 函数，同时设定指定的 opset 并启用简化功能。

# pt2onnx.py
from ultralytics import YOLO

# 1. 加载训练好的 YOLO26 权重模型
model = YOLO('weights/com/yolo26s_com.pt')  

# 2. 导出为 ONNX 格式
# simplify=True 用于自动简化 ONNX 计算图，合并多余算子
# opset=16 确保算子版本符合 RKNN 编译器的最佳解析标准
model.export(format='onnx', simplify=True, opset=16)
print("ONNX 导出成功！")