求助帖提问：什么情况下onnx转rknn模型无法量化成int8？toolkit2能成功，但toolkit会失败

原创 已于 2025-03-19 09:39:50 修改 · 1.1k 阅读 · 5
标签
#人工智能
于 2025-03-19 09:36:42 首次发布

环境：toolkit平台 1.7.3版本

# Name                    Version                   Build  Channel
_libgcc_mutex             0.1                        main  
_openmp_mutex             5.1                       1_gnu  
absl-py                   1.4.0                    pypi_0    pypi
astor                     0.8.1                    pypi_0    pypi
ca-certificates           2024.12.31           h06a4308_0  
certifi                   2021.5.30        py36h06a4308_0  
chardet                   3.0.4                    pypi_0    pypi
click                     8.0.4                    pypi_0    pypi
cycler                    0.11.0                   pypi_0    pypi
dataclasses               0.8                      pypi_0    pypi
decorator                 5.1.1                    pypi_0    pypi
dill                      0.2.8.2                  pypi_0    pypi
flask                     1.0.2                    pypi_0    pypi
flatbuffers               1.10                     pypi_0    pypi
gast                      0.6.0               &

最低0.47元/天 解锁文章
Jul.01
关注
【RKNN】RKNN-Toolkit2 Python API之hybrid_quantization_step2 函数详解
浩瀚之水的专栏
08-26 270
rknn.hybrid_quantization_step2 是 RKNN-Toolkit2 中 ​混合量化（Hybrid Quantization）​​ 的第二步，用于根据手动调整的量化建议文件生成最终的混合精度模型（INT8 + FP16）。
避坑指南：ONNX转RKNN模型时，为什么你的量化总是失败？
aobannie0463的博客
06-14 494
本文深入分析了ONNX转RKNN模型时量化失败的常见原因，包括算子兼容性问题、数据范围不匹配和量化策略选择不当，并提供了系统化的诊断工具和实战解决方案。通过详细的排查指南和调试技巧，帮助开发者有效解决模型转换中的量化精度损失问题，提升RKNN模型部署效率。
rknn（rknpu）使用笔记
yuanlulu的博客
07-18 1万+
最近使用rknpu做了一些工作，这里记录下自己遇到的一些问题，希望对其他人有帮助，
使用RKNN部署CRNN模型踩坑优化历程
小菜的博客
02-23 8407
序言 前段时间使用RKNN部署一个文字识别模型，因为文字识别模型用的是目前最普遍使用的CRNN模型，结构也相对简单：卷积+LSTM+全连接，都是比较元老级别的算子，本来已经部署的过程会很顺利，结果发现还是踩了很多坑。写篇文章记录下踩坑优化过程。 一、部署前 接到需求后，一开始想到的是直接使用paddleocr开源的通用文字识别模型，paddleocr提供了三个通用的文字识别模型，都是基于CRNN算法架构，分别是：mobilenetV3版、LCNet版、Resnet34版，前两个是移动端模型，后一个是服务端模
【已解决】onnx转rknn过程中出现 E RKNN: [10:15:23.345] Meet unsupported MaxPool attribute ‘dilations‘!
kanbarakun的博客
07-22 1606
rknn-toolkit2的项目页会有更新的环境配置文件。因此为了对齐项目和环境的配置，确保下载的是最新版项目和最新版环境（有需要、有能力的话可以自行对齐项目和环境版本）。然后再选择小版本更新的最新版，点进去后再进入packages文件夹，下载对应python版本的whl文件。使用yolov5训练自己的数据集，希望将训练好的pt文件转换成rknn文件。板子是3568，根据rknn-tooltik2项目，应当和3566是一样的。环境需求，而是在他人的经验贴提供的项目中下载了过时的环境配置文件。
关于RKNN模型转换的一点报错整理
qq_56858119的博客
02-01 1392
尤其是在安装官方提供的.whl文件时，如果是在这一步的过程中出现了报错，可以尝试着在命令前加上或者去掉sudo指令，因为我是创建了新的环境来安装这个.whl文件，所以按照官方给出的教程执行时出现了多种问题。rknntoolkit2的下载可以参照其他博客，本博客将对onnx模型转换为rknn的过程中出现的两个很小众的错误进行说明。同样是在安装RKNN-Toolkit的时候发生的错误，在1.6.0版本的官方指导书中，给出的安装指令如下所示：注意看这个安装中，并没有用到sudo权限。
RKNN-Toolkit2终极指南：5分钟实现AI模型到Rockchip NPU的高效部署
gitblog_00573的博客
06-13 1011
RKNN-Toolkit2是瑞芯微(Rockchip)推出的专业AI模型部署工具包，专为Rockchip NPU平台设计，帮助开发者和AI工程师将训练好的深度学习模型快速转换为RKNN格式，并在边缘设备上实现高性能推理。无论是计算机视觉、自然语言处理还是其他AI应用，RKNN-Toolkit2都能提供完整的模型转换、优化和部署解决方案，大幅降低AI模型在嵌入式设备上的部署门槛。 ## 项目价值定
从零开始：使用RKNN-Toolkit2实现YOLO模型的高效部署
weixin_28347369的博客
02-04 450
本文详细介绍了如何使用RKNN-Toolkit2将YOLO模型高效部署到Rockchip NPU硬件平台。通过模型转换、量化优化和性能调优等步骤，实现在嵌入式设备上的高速目标检测，显著提升推理速度和能效比。文章包含实战案例、环境搭建指南和常见问题解决方案，为开发者提供完整的RKNN部署参考。
【硬核实战】YOLOv13转RKNN模型全流程解析与板端部署优化
wdx0123456的博客
02-06 1058
本文详细解析了YOLOv13模型转换为RKNN格式的全流程，包括环境准备、ONNX模型导出与优化、RKNN转换实战及RK3588板端部署优化策略。通过代码示例和实战技巧，帮助开发者高效完成模型部署，提升在边缘计算设备上的推理性能与稳定性。
rknn 量化原理
杨善锦技术专栏
12-03 1645
在 RKNN (Rockchip Neural Network Toolkit) 中，传入校准数据集进行量化的过程是基于 Post-Training Quantization (PTQ) 的原理，特别是对于 8-bit 量化（INT8）模型，这是一个常见的过程。RKNN 的量化通过校准数据集来统计动态范围，计算量化参数（scale 和 zero point），并将模型权重和激活映射到整数值，从而减少推理时的计算复杂度和存储需求。校准数据集是用于确定模型中每一层权重和激活值的动态范围的。
如何运行和调试一个 JavaScript 代码片段，怎么打开，并且试运行？
**My Coding Family**
01-24 1945
🏆本文收录于专栏，主要记录项目实战过程中所遇到的Bug或因后果及提供真实有效的解决方案，希望能够助你一臂之力，帮你早日登顶实现财富自由🚀；同时，欢迎大家！持续更新中，up！up！up！！
【rknn】onnx转rknn load_onnx函数报错: KeyError ‘output‘
sazass的博客
11-24 1712
然后name自左往右分别是：338, 376, 414。分别单击Reshape模块，查看OUTPUTS的。
onnx模型转rknn到部署
06-28 6255
最近开始用3568的板子，之前是在用3399，cpu的话3399比3568强，但是3568有1T的npu算力，所以模型移植过来用npu使用，之前用ncnn感觉太慢了，rk的npu使用没有开源，所以没法兼容，只能跑rknn了。有些版本可以有限制，无法查询当前的命令，但是如果代码能够正常执行就行。这里采用的模型是 insightface 的 det_500m.onnx 模型，用来做人脸目标检测。
RKNN Toolkit使用教程
热门推荐
AI吃大瓜的博客
02-22 1万+
RKNN Toolkit使用教程 RKNN Toolkit:http://wiki.t-firefly.com/zh_CN/Core-1808-JD4/npu_rknn_toolkit.html# Rockchip提供RKNN-Toolkit开发套件进行模型转换、推理运行和性能评估。 用户通过提供的 python 接口可以便捷地完成以下功能： 1）模型转换：支持 Caffe、Tensorflow、TensorFlow Lite、ONNX、Darknet 模型，支持RKNN 模型导入导出，后...
监控“失明”了怎么办？国标GB28181视频平台EasyGBS平台AI视频质量诊断让运维效率提升10倍
EasyGBS的博客
06-17 1472
监控系统“看得见”是底线，“看得清”是要求，“一直看得清”才是目标。
智谱 GLM-5.2 开源登顶、科创板向 AI 大模型开门、沪指收复 4100 点
weixin_45526015的博客
06-17 2909
**今天你必须知道的 3 件事：** > ① 智谱 GLM-5.2 正式上线开源，Code Arena 全球可用模型排名第一 > ② 科创板上市标准扩围至 AI 大模型行业，未盈利 AI 公司上市通道打开 > ③ A 股沪指收复 4100 点，科创 50 暴涨 4.69%，半导体全面爆发
蓝牙+WiFi 融合产品调研：智能体脂秤
朝气蓬勃
06-17 1804
本文系统介绍了智能体脂秤的产品概况、硬件架构设计、软件架构设计、关键技术挑战及解决方案。产品方面，概述了主流型号、目标用户和市场定位；硬件设计重点分析了芯片选型、BOM成本及PCB布局；软件架构详述了FreeRTOS系统选型及分层协议设计；技术挑战部分提出了Wi-Fi/BLE共存、阻抗测量精度等解决方案；最后展望了市场前景和2025年趋势。全文为体脂秤开发提供了全面的技术指导，特别适合IoT硬件开发者参考。
从 Canvas 到 Vibe Coding：HTML5 游戏开发入门与 AI 飞机大战实战
meilindehuzi_a的博客
06-16 1778
本文围绕 HTML5 中的 Canvas 技术展开，从网页游戏的发展背景出发，系统介绍了 Canvas 画布的基本概念、绘图上下文获取方式以及常用绘图 API 的使用方法。通过矩形绘制、边框绘制和画布清除等案例，帮助读者理解 Canvas 的坐标体系与绘图原理。随后结合动画示例，深入讲解了浏览器动画实现机制、游戏循环思想以及 `requestAnimationFrame` 的工作原理，并分析其相较于 `setInterval` 的性能优势。
美团海报生成 AIGC 技术创新与实践
最新发布
美团技术团队
06-18 1084
美团智能创作团队围绕海报生成 AIGC 构建了完整技术体系，打造「生成-编辑-评判」技术闭环，目前已在美团外卖、品牌 IP 等场景落地，已全部开源。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值