rknn_query 是 RKNN-Toolkit2 中用于 查询模型或运行时状态信息 的核心接口,支持获取模型属性、硬件配置、性能数据等关键信息,帮助开发者调试和优化模型部署。以下是其功能、参数及使用方法的完整说明:
一、功能与作用
-
核心功能:
查询已加载的 RKNN 模型或运行时的状态信息,包括:- 输入/输出层的属性(维度、数据类型、量化参数等)
- SDK 版本与 NPU 驱动版本
- 内存占用与性能统计
- 模型支持的算子列表
-
适用场景:
- 调试模型部署时的维度不匹配问题。
- 验证量化参数是否正确应用。
- 监控 NPU 资源利用率以优化推理性能。
二、参数说明
int rknn_query(
rknn_context ctx, // RKNN 上下文句柄
rknn_query_cmd cmd, // 查询指令(如版本、输入属性)
void* info, // 输出信息的缓冲区
uint32_t siz
订阅专栏 解锁全文
419

被折叠的 条评论
为什么被折叠?



