【tensorrt】——dimensions not compatible for elementwise

最新推荐文章于 2025-12-31 11:36:43 发布

原创最新推荐文章于 2025-12-31 11:36:43 发布 · 1.6k 阅读

0 ·

本内容遵循CC 4.0 BY-SA版权协议

标签

#深度学习 #神经网络

收录于

嵌入式AI 专栏收录该内容

177 篇文章

订阅专栏

在尝试使用trtexec工具将ONNX模型转换为TensorRT时，遇到动态形状问题，具体表现为Resize操作的输入尺寸不匹配。模型的Resize层输入维度为(-1,128,-1,-1)，而后续Add操作的输入之一维度为(-1,-1,-1,-1)，导致第二维度无法对应。目前尚无解决方案。

tensorrt, dynamic shape

1. 问题

trtexec对onnx动态H，W的模型转换时的报错。

Resize_53 [Resize] inputs: [715 -> (-1, 128, -1, -1)], [454 -> ()], [455 -> ()], [453 -> (4)], 
[09/10/2021-10:49:20] [V] [TRT] ImporterContext.hpp:154: Registering layer: Resize_53 for ONNX node: Resize_53
[09/10/2021-10:49:20] [V] [TRT] ImporterContext.hpp:120: Registering tensor: 456 for ONNX tensor: 456
[09/10/2021-10:49:20] [V] [TRT] ModelImporter.cpp:179: Resize_53 [Resize] outputs: [456 -> (-1, -1, -1, -1)], 
Add_54 [Add] inputs: [440 -> (-1, 128, -1, -1)], [456 -> (-1, -1, -1, -1)], 
[09/10/2021-10:49:20] [V] [TRT] ImporterContext.hpp:154: Registering layer: Add_54 for ONNX node: Add_54
[09/10/2021-10:49:20] [V] [TRT] ImporterContext.hpp:120: Registering tensor: 457 for ONNX tensor: 457
[09/10/2021-10:49:20] [V] [TRT] ModelImporter.cpp:179: Add_54 [Add] outputs: [457 -> (-1, 128, -1, -1)],

模型的可视化截图
在这里插入图片描述
问题: add操作的输入为[440 -> (-1, 128, -1, -1)], [456 -> (-1, -1, -1, -1)]，第二维度没有对应。