将训练好的 mmdetection 模型转为 tensorrt 模型

最新推荐文章于 2026-07-05 11:22:26 发布
原创 最新推荐文章于 2026-07-05 11:22:26 发布 · 6.3k 阅读 · 37
本文详细介绍了如何将MMDetection的PyTorch模型转换为TensorRT模型，以提高运算效率。首先，介绍了所需的环境配置，包括安装TensorRT 7.2.3.4和相关依赖。接着，通过mmdetection-to-tensorrt库，跳过常规的pth到onnx再到tensorrt的转换步骤，直接将模型转换。文章提供了完整的转换步骤和相关库的安装指南，并给出了测试验证转换成功的操作。

mmdetection 是商汤科技（2018 COCO 目标检测挑战赛冠军）和香港中文大学开源的基于Pytorch实现的深度学习目标检测工具箱，性能强大，运算效率高，配置化编程，比较容易训练、测试。但pytorch模型不易于部署，运算速度还有进一步提升的空间，当前比较有效的方法是将模型转换为行为相同的tensorrt模型，本文记录转换流程。

任务思路

转换mmdetection 的 pytorch模型到tensorrt模型有多种方法，本文使用 mmdetection-to-tensorrt 库作为核心，完成直接的模型转换。

该库跳过了通常的 pth -> onnx -> tensorrt 的转换步骤，直接从pth转成tensorrt模型，并且已经成功支持了很多mmdetection 的模型转换。

Support Model/Module
  • Faster R-CNN
  • Cascade R-CNN
  • Double-Head R-CNN
  • Group Normalization
  • Weight Standardization
  • DCN
  • SSD
  • RetinaNet
  • Libra R-CNN
  • FCOS
  • Fovea
  • CARAFE
  • FreeAnchor
  • RepPoints
  • NAS-FPN
  • ATSS
  • PAFPN
  • FSAF
  • GCNet
  • Guided Anchoring
  • Generalized Attention
标签
#深度学习 #python
最低0.47元/天 解锁文章
【mmdeploy】【TODO】使用mmdeploy将mmdetection模型转tensorrt
qq_40690815的博客
04-24 2774
使用mmdeploy将mmdetection模型转tensorrt
边缘计算目标检测：MMDetection在Jetson平台的TensorRT优化实践
angw337679452的博客
06-30 325
目标检测作为计算机视觉的核心任务，其算法优化与工程部署直接影响实际应用效果。基于深度学习的目标检测模型通常需要高性能计算资源，而边缘计算设备如NVIDIA Jetson系列通过GPU加速和专用推理引擎TensorRT，实现了在资源受限环境下的高效推理。TensorRT通过层融合、精度校准和动态张量处理等技术，显著提升推理速度并降低功耗。在智能安防、工业质检等实时视频分析场景中，结合MMDetection框架与TensorRT优化，能够在Jetson平台上实现40+FPS的高性能目标检测。本文以YOLOv3模
0834-极智开发-解读动态表及示例代码
02-27
0834_极智开发_解读动态表及示例代码
MMDetection实战：从标注到训练，完整构建自己的目标检测模型
weixin_30825581的博客
03-22 562
本文详细介绍了使用MMDetection框架从数据标注到模型训练的全流程，包括数据准备、环境配置、模型选择与训练优化等关键步骤。通过实战案例，帮助读者掌握目标检测模型的构建技巧，提升在工业质检、自动驾驶等领域的应用能力。
MMDetection入门指南：从环境搭建到模型训练、评估与推理
最新发布
weixin_46846685的博客
07-05 385
本文介绍了目标检测框架MMDetection的入门指南。主要内容包括：MMDetection的特点与模块化设计、与其他框架的对比、环境配置与安装步骤、目录结构说明、数据集准备方法、模型训练与评估流程、以及单张图片和视频推理示例。MMDetection基于PyTorch开发，支持数百种检测模型，提供完整的训练评估工具链，是目标检测领域的首选研究平台之一。通过配置文件驱动的方式，用户可以快速搭建和训练自己的检测模型。
mmdetection-to-tensorrt:将mmdetection模型转换为tensorrt，支持fp16，int8，批输入，动态形状等
03-19
MMDet到张量 该项目旨在将mmdetection模型转换为tensorrt模型end2end。现在专注于对象检测。面膜的支持是实验性的。 支持： fp16 int8（实验） 批量输入 动态输入形状 不同模块的组合 深度支持 欢迎提供任何建议，错误报告和建议。 执照 该项目是根据。 要求 mmdet> = 2.3.0 重要的！ 设置环境变量（在〜/ .bashrc中）： export AMIRSTAN_LIBRARY_PATH= ${amirstan_plugin_root} /build/lib 安装 主持人 git clone https://github.com/grimoire/mmdetection-to-tensorrt.git cd mmdetection-to-tensorrt python setup.py develop 码头工人 构建docker镜像（注意Te
MMDetection系列之 ONNX TO TENSORRT
qq_41627642的博客
05-16 661
如何转换模型从ONNX到TensorRT usage python tools/deployment/onnx2tensorrt.py \ ${CONFIG} \ ${MODEL} \ --trt-file ${TRT_FILE} \ --input-img ${INPUT_IMAGE_PATH} \ --shape ${INPUT_IMAGE_SHAPE} \ --min-shape ${MIN_IMAGE_SHAPE} \ --max-shape
推荐项目：MMDetection to TensorRT - 加速深度学习推理的利器
gitblog_00009的博客
12-31 613
是一个开源项目，旨在将 MMDetection 模型转换为 NVIDIA 的 TensorRT 格式，以实现深度学习模型在推理阶段的高性能和低延迟。MMDetection 是一个广泛使用的计算机视觉检测框架，而 TensorRT 则是 NVIDIA 提供的高性能深度学习推理优化引擎。通过该项目，你可以轻松地将你的 MMDetection 模型部署到 NVIDIA GPU 上，获得更高效的运行速度。
mmdetection-to-tensorrt 使用教程
gitblog_00196的博客
12-31 1068
`mmdetection-to-tensorrt` 是一个开源项目，旨在支持将 MMDetection 模型通过 TensorRT 进行端到端部署。该项目跳过了通常的 pth -> onnx -> tensorrt 的转换步骤，直接从 pth 文件转换成 TensorRT 模型，支持多种模型和模块，如 Faster R-CNN、Cascade R-CNN 等。 ## 项目快速启动 ### 环境
win10系统mmdetection训练部署fasterrcnn的全过程
keep
08-04 5115
训练mmdetection中的fasterrcnn的全过程以及问题记录，修改cpp文件增加标签类别和计时，使用mmdeploy进行部署。
mmdetection模型导出工具：TorchScript与TensorRT全攻略
gitblog_01039的博客
03-13 1133
mmdetection作为基于PyTorch的人工智能物体检测库，提供了丰富的模型导出功能，支持将训练好的模型转换为TorchScript和TensorRT等高效推理格式。本文将详细介绍如何使用mmdetection的模型导出工具，帮助开发者快速部署高性能的物体检测应用。 ## 为什么需要模型导出？ 在实际应用中，训练好的PyTorch模型往往需要进行优化才能满足生产环境的性能要求。模型导出可
MMDetection-to-TensorRT 使用指南
gitblog_00725的博客
12-31 440
MMDetection-to-TensorRT项目是一个用于将MMDetection模型转换为NVIDIA TensorRT格式的工具，以提高推理阶段的性能。其目录结构大致如下： - **`src`**: 包含核心转换代码。 - **`demo`**: 提供演示如何使用的脚本，例如`inference.py`用于生成检测结果。 - **`test`**: 单元测试相关文件。 - **`tools
端到端工业级部署：基于mmdetection的YOLOX模型TensorRT优化与推理加速全解析
m0_71589036的博客
11-10 73
从mmdetection的模型训练，到TensorRT的工业级部署，每一步都是将AI技术从“实验室概念”转化为“商业价值”的关键跃迁。当你看到自己训练的YOLOX模型在TensorRT加速下，在GPU或边缘设备上实现实时推理，且检测精度与原模型几乎无异时，就会明白这份教程的意义——它不仅是技术步骤的指引，更是帮你打通“模型部署最后一公里”的利器。现在，就动手实践吧，祝你在目标检测系统的工程化之路上一帆风顺，让你的技术方案真正在产业中发光发热！
mmdetection实战：工业级目标检测训练流程与优化技巧
weixin_30780649的博客
06-30 689
目标检测是计算机视觉中的核心技术，通过边界框定位和类别识别实现物体检测。基于深度学习的目标检测器可分为两阶段（如Faster R-CNN）和单阶段（如YOLO）架构，其核心在于特征提取与区域建议机制。mmdetection作为OpenMMLab推出的模块化框架，集成了多种先进算法，显著提升了工业场景下的开发效率。在实际应用中，合理的数据划分、模型选型和训练策略对性能至关重要，例如采用7:2:1的数据集比例、选择适合场景的检测器类型（工业质检推荐Faster R-CNN，实时系统优选YOLO系列）。通过混合精
nuScenes数据集在MMDetection3D中的实战指南：从数据准备到模型训练全流程解析
apple5的专栏
02-18 1274
本文详细解析了如何在MMDetection3D框架中使用nuScenes数据集进行3D目标检测，涵盖从数据准备、激光雷达点云处理到模型训练与评估的全流程。通过实战示例和配置技巧，帮助开发者高效利用这一多模态自动驾驶数据集，提升3D边界框检测性能。
实测对比：用MMDeploy把MMDetection模型转成TensorRT后，FP16/INT8到底能快多少？
weixin_42526087的博客
04-03 221
本文通过实测数据详细对比了使用MMDeploy将MMDetection模型转换为TensorRT引擎后，FP16和INT8量化带来的性能提升。在NVIDIA 2080Ti显卡上，FP16量化使推理速度提升43.5%，而INT8量化进一步将加速比提升至2.83倍。文章还提供了完整的量化配置指南和精度-速度权衡策略，帮助开发者在实际业务中优化模型部署。
YOLOX模型工业级部署解析：mmdetection框架下的TensorRT优化与推理加速实战
m0_71589036的博客
11-10 89
从mmdetection的模型训练，到TensorRT的工业级部署，每一步都是将AI技术从“实验室概念”转化为“商业价值”的关键跃迁。当你看到自己训练的YOLOX模型在TensorRT加速下，在GPU或边缘设备上实现实时推理，且检测精度与原模型几乎无异时，就会明白这份教程的意义——它不仅是技术步骤的指引，更是帮你打通“模型部署最后一公里”的利器。现在，就动手实践吧，祝你在目标检测系统的工程化之路上一帆风顺，让你的技术方案真正在产业中发光发热！
mmdetection模型压缩工具对比：ONNX与TensorRT终极指南
gitblog_00167的博客
03-13 308
mmdetection作为基于PyTorch的强大物体检测库，提供了丰富的模型和工具。在实际应用中，为了提升推理速度和降低部署成本，模型压缩至关重要。本文将深入对比ONNX与TensorRT两种主流模型压缩工具，助你快速掌握模型优化的最佳实践。 ## 为什么需要模型压缩？🚀 随着深度学习模型的复杂度不断提升，原始模型往往体积庞大、推理速度慢，难以部署在资源受限的设备上。模型压缩技术通过减少模
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值