英伟达官方TensorRT8.x下载地址

​​https://developer.nvidia.com/nvidia-tensorrt-8x-download​​

一 Pip安装TensorRT文件夹中的.whl文件

1.python文件夹

pip install tensorrt-8.4.1.5-cp36-none-win_amd64.whl

2.graphsurgeon文件夹

pip install graphsurgeon-0.4.6-py2.py3-none-any.whl

3.onnx_graphsurgeon文件夹

pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl -i http://pypi.douban.com/simple/  --trusted-host pypi.douban.com

4.uff文件夹

pip install uff-0.6.9-py2.py3-none-any.whl

二 验证Python版本的TensorRT是否安装成功

1.复制库文件到cuda

2.验证

import tensorrt as trt
print(trt.__version__)

三 验证C++版本是否可用

1.进去samples\sampleMNIST

2.点击运行

3.查看是否在bin中生成对应exe

4.从data\mnist中拿一张图片进行测试

输入测试指令

sample_mnist.exe 0.pgm

测试成功