解决TensorRT does not natively support INT64的问题记录

问题描述

在对使用PyTorch导出的onnx模型进行TensorRT解析时出现：Your ONNX model has been generated with INT64 weights, while TensorRT does not natively support INT64. Attempting to cast down to INT32.的错误。

解决方法

在网上有找到解决方案把onnx模型转TensorRT模型的trt模型报错，但由于机器上安装的onnx版本是1.8.0，pytorch版本是1.7.1，推测版本太高导致onnx-simplifier无法转换成功。查看后发现TensorRT-7.1.3.4支持的onnx版本是1.6.0，在降低onnx版本为1.6.0，pytorch版本为1.4.0后，使用TensorRT-7.1.3.4可正常通过模型的转换和解析。

pip install onnx-simplifier
python -m onnxsim your_model.onnx your_model_sim.onnx