详解Windows系统安装TensorRT

原创 已于 2023-12-17 19:47:02 修改 · 1.2w 阅读 · 104 ·
本内容遵循CC 4.0 BY-SA版权协议
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
收录于
Windows

当前文章被收录于：

Windows
30 篇文章 15 人学习

windows使用常见问题及解决办法

订阅专栏 查看详情
机器学习

当前文章被收录于：

机器学习
9 篇文章 0 人学习

Machine Learning

订阅专栏 查看详情
于 2023-05-21 12:05:08 首次发布
文章详细介绍了在Windows系统中安装TensorRT的步骤，包括下载TensorRT、CUDA和CUDNN，以及如何解压安装文件、复制到相应目录和安装Python相关whl包。在安装过程中需要注意与CUDA版本的匹配，并且在遇到导入问题时，可能需要更新系统环境变量。最后提到了测试阶段可能遇到的问题及其解决方案。

文章目录

TensorRT 是 NVIDIA 推出的一款高性能神经网络部署引擎.Windows系统下TensorRT目前不能简单直接通过pip指令自动下载安装, 安装之前还需要提前安装好 CUDA 和 CUDNN.

CUDA和CUDNN安装可参考:

下载TensorRT

  1. 进入NVIDIA的TensorRT页面: https://developer.nvidia.com/tensorrt. 点击Download now, 进入TensorRT下载页面. PS: TensorRT页面需要先登录NVIDIA账号, 才会有下载选项.

在这里插入图片描述

  1. 选择版本, 这里博主选择最新的TensorRT 8.
    在这里插入图片描述
  2. 勾选"I Agree To the Terms of the NVIDIA TensorRT License Agreement"
    在这里插入图片描述
  3. 选择具体版本, 这里博主选择的是TensorRT 8.5 GA Update 2.
    在这里插入图片描述
  4. 选择Zip Packages for Windows下面和自己CUDA版本匹配的ZIP, 点击即可下载.
    在这里插入图片描述

安装TensorRT

  1. 解压下载的ZIP文件, 如下：
    在这里插入图片描述
  2. 从解压好的文件夹中复制文件到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6, 对应复制路径. PS: 此处的复制需要管理员权限. 此处CUDA的版本v11.6需要根据自身安装的情况而定.
序号所需复制文件来源目标
1…\TensorRT-8.5.3.1\bin\trtexec.exe…\TensorRT-8.5.3.1\binC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\bin
2…\TensorRT-8.5.3.1\include下的所有文件…\TensorRT-8.5.3.1\includeC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\include
3🌟…\TensorRT-8.5.3.1\lib下的所有lib文件…\TensorRT-8.5.3.1\libC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\lib\x64
4🌟…\TensorRT-8.5.3.1\lib下的所有dll文件…\TensorRT-8.5.3.1\libC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\lib
  1. 安装whl文件. 进入文件所在目录, 打开终端, 调用指令安装. PS: 安装时一定要注意whl文件的安装路径. 建议直接使用cd命令, 使终端进入到对应文件目录, 再使用 pip install *.whl 安装.
序号待安装whl文件所在文件夹安装指令
1graphsurgeon-0.4.6-py2.py3-none-any.whl…\TensorRT-8.5.3.1\graphsurgeonpip install graphsurgeon-0.4.6-py2.py3-none-any.whl
2onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl…\TensorRT-8.5.3.1\onnx_graphsurgeonpip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl
3uff-0.6.9-py2.py3-none-any.whl…\TensorRT-8.5.3.1\uffpip install uff-0.6.9-py2.py3-none-any.whl
4🌟tensorrt-8.5.3.1-cp38-none-win_amd64.whl 需根据自身python版本选择对应的文件…\TensorRT-8.5.3.1\pythonpip install tensorrt-8.5.3.1-cp38-none-win_amd64.whl

测试

在这里插入图片描述

可能出现的问题

  • import tensorrt时显示找不到nvinfer.dll或者nvparsers.dll等
    解决办法：nvinfer.dll或者nvparsers.dll等dll文件时我们解压tensorrt压缩包时复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\lib文件夹下面的文件，因此只需要将这个文件夹地址添加到系统的环境变量Path中即可。

参考资料

  1. NVIDIA Deep Learning TensorRT Documentation🚀🚀🚀

收集整理和创作不易, 若有帮助🉑, 请帮忙点赞👍➕收藏❤️, 谢谢!✨✨🚀🚀

标签
#windows #pytorch #深度学习
Windows10安装TensorRT及环境配置
stupid_miao的博客
05-27 3342
环境安装： 参考 nvidia驱动下载 直接运行"466.47-desktop-win10-64bit-international-dch-whql"文件安装就好，开始让你选择临时解压路径，然后可以自定义选择安装路径。 cuda10.2（或其他），下载 cuda与显卡驱动匹配 安装： （1） 运行软件“cuda_10.2.89_441.22_win10”，开始让你选择临时解压路径，然后可以自定义各个组件（dev、doc、samples）选择安装路径。 （2）安装完成后打开cmd，输入nvcc -
windows下安装tensorrt（python调用）
weixin_43134049的博客
05-16 1万+
tensorrt安装
TensorRT下载安装遇到的问题 5070ti CUDA13.2
2301_80148693的博客
05-21 57
1.确认自己的CUDA版本，搜索下载哪个版本的 TensorRT2.上官网下载TensorRT.官网地址3.进入conda 虚拟环境.4.python --verison查看python解释器版本。5.cd 到python 文件夹，pip install 对应的whl文件。注意。
别再到处找了！TensorRT 8.6 GA/EA 全版本下载与安装包选择指南（Linux/Windows/CUDA版本对照）
dianjin3567的博客
06-13 379
本文提供了TensorRT 8.6全版本下载与安装的详细指南，帮助用户根据Linux/Windows系统和CUDA版本选择最适合的GA/EA版本。文章包含版本兼容性矩阵、安装步骤详解及常见问题解决方案，是AI模型部署的实用参考。
windows下tensorRT的安装
weixin_44313432的博客
02-23 2912
window10下的tensorRT安装经验
【windows版】TensorRT安装教程
IT菜鸟
10-29 6479
模型推理的时候，每一次的操作都是由GPU启动不同的的CUDA核心来完成的，大量的时间花在CUDA核心启动和读写操作上，造成了内存带宽的瓶颈和GPU资源浪费。TensorRT通过层间融合，横向融合把卷积偏置激活合并成一个结构，并且只占用一个CUDA核心，纵向融合把结构相同、权值不同的层合并成一个更宽的层，也是占用一个CUDA核心，因此整个模型结构更小更快。
别再到处找了！TensorRT 8.6 GA/EA 全版本下载与安装保姆级指南（含Linux/Windows/CUDA版本匹配）
dianjin3567的博客
06-13 340
本文提供TensorRT 8.6全版本下载与安装的详细指南，涵盖Linux/Windows系统适配、CUDA版本匹配及高效部署实战。通过精准的版本选择决策树和安装步骤，帮助开发者快速解决TensorRT环境配置难题，提升AI模型部署效率。
TensorRT安装避坑指南：nvinfer.dll缺失问题的终极解决方案
weixin_29035147的博客
02-27 471
本文针对TensorRT安装过程中常见的nvinfer.dll缺失问题，提供了深度剖析与终极解决方案。文章详细解释了问题根因在于库文件路径配置错误，并给出了Windows系统下正确的文件复制、环境变量配置及Python包安装的完整步骤，帮助开发者彻底解决此安装难题，确保TensorRT环境顺利部署。
TensorRT部署实战——从nvinfer.dll缺失到环境变量配置全解析
weixin_29057695的博客
03-18 140
本文详细解析了TensorRT部署中常见的nvinfer.dll缺失问题，从环境检查到解决方案全流程指导。涵盖CUDA和cuDNN版本匹配、TensorRT安装、环境变量配置等关键步骤，并提供Python环境配置和验证方法，帮助开发者高效解决TensorRT部署难题。
TensorRT安装避坑指南：解决nvinfer.dll缺失问题（附Cuda版本匹配技巧）
weixin_29040367的博客
04-01 355
本文详细解析了TensorRT安装过程中常见的nvinfer.dll缺失问题，提供了从版本匹配到文件部署的完整解决方案。特别针对CUDA版本兼容性这一核心痛点，给出了经过验证的版本组合参考和实用命令，帮助开发者快速定位并解决安装难题，确保深度学习推理加速环境的顺利搭建。
别再复制粘贴了！Windows 11/10 安装 TensorRT 8.5 保姆级避坑指南（含CUDA版本匹配）
weixin_30326741的博客
04-26 231
本文提供Windows 11/10下TensorRT 8.5的详细安装指南，重点解析CUDA版本匹配逻辑与环境变量配置原理，帮助开发者避免常见DLL报错问题。通过实战案例演示如何排查版本冲突、Python绑定错误等典型问题，并分享性能优化技巧与多版本共存解决方案。
OpenClaw 2.6.4 Win10一键安装指南：多模态AI Agent环境部署
最新发布
cuili5839的博客
07-09 437
多模态AI Agent是当前具身智能与真实世界交互的核心技术范式，其运行依赖Python生态、CUDA加速、ROS 2通信及Windows服务化封装等底层能力。OpenClaw作为面向生产环境的开源框架，通过精准版本锁定（如torch==2.1.2+cu118）、系统级信任配置（PowerShell策略/Defender白名单）和Windows服务注册机制，解决了Win10平台下环境不可靠、命令不可识别、GPU加速失效等高频工程问题。它特别适用于微信智能客服、家庭NAS中枢、ROS仿真测试等轻量级边缘部署场
Windows系统下PaddleOCR虚拟环境配置与常见问题解决指南
red88的博客
02-24 685
本文详细指导在Windows系统下为PaddleOCR配置独立的GPU虚拟环境。核心在于理清CUDA、cuDNN与PaddlePaddle的版本匹配逻辑，并手把手演示通过Conda创建环境、安装依赖及验证测试的全过程。文章重点解决了常见的DLL加载失败、GPU未识别等报错问题，旨在帮助开发者一次配置成功，高效部署OCR应用。
Segment Anything (SAM) 模型避坑指南：Windows下用CPU/GPU跑通官方Demo的完整配置流程
weixin_30838873的博客
04-29 470
本文详细介绍了在Windows系统下配置和运行Segment Anything (SAM)模型的完整流程，包括CPU和GPU环境下的安装指南、常见问题解决方案以及性能优化技巧。通过精准的环境配置和代码优化，帮助开发者高效实现图像分割任务，特别适合计算机视觉领域的初学者和进阶用户。
Win10系统安装TensorRT
zyz博客
07-07 3228
Tips：理论指引实践TensorRT是一个高性能的深度学习推理（Inference）优化器，支持TensorFlow、Caffe、Mxnet、Pytorch等几乎所有的深度学习框架，将TensorRT和NVIDIA的GPU结合起来，能在几乎所有的框架中进行快速和高效的部署推理。TensorRT(1)-介绍-使用-安装祝一次安装成功。
tensorRT安装详解（linux与windows）
热门推荐
qq_58158950的博客
10-18 2万+
有关tensorRT的介绍见。
YOLOv5(PyTorch)目标检测实战：TensorRT加速部署
03-24
PyTorch版的YOLOv5是高性能的实时目标检测方法。 TensorRT是针对英伟达GPU的加速工具。本课程讲述如何使用TensorRT对YOLOv5进行加速和部署。   本课程的YOLOv5使用ultralytics/yolov5，分别在Ubuntu和windows10系统上做TensorRT加速和部署演示。课程内容包括：原理篇（YOLOv5网络架构与组件、TensorRT基础、TensorRT INT8量化、tensorrtx介绍、CUDA编程方法）、实践篇（Ubuntu和Windows10系统上的TensorRT部署演示）、代码解析篇（YOLOv5的TensorRT加速的代码解析） 。本课程提供注释后的YOLOv5的TensorRT加速代码。 除本课程《YOLOv5(PyTorch)目标检测实战：TensorRT加速部署》外，本人推出了有关YOLOv5目标检测的系列课程。请关注该系列的其它视频课程，包括：《YOLOv5(PyTorch)目标检测实战：训练自己的数据集》Ubuntu系统：https://edu.csdn.net/course/detail/30793Windows系统：https://edu.csdn.net/course/detail/30923《YOLOv5(PyTorch)目标检测：原理与源码解析》https://edu.csdn.net/course/detail/31428《YOLOv5(PyTorch)目标检测实战：Flask Web部署》https://edu.csdn.net/course/detail/31140
win10 安装TensorRT
zhaoluruoyan89的博客
11-12 2295
安装完成相应的库以后，需要注意将TensorRT-8.6.1.6文件夹下的lib\include中的文件进行如下拷贝工作，防止在运行tensorrt时候无法找到相对应的Nvinfer.dll。，选择和自己适配的TensorRT,我选择的是 TensorRT-8.6.1.6.Windows10.x86_64.cuda-11.8。注意：EA是提前发布的不稳定版本,GA是经过完备测试的稳定版。至此，windows安装TensorRT的过程就结束了。安装TensorRT文件夹中 即 的。
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值