1. 为什么要升级NPU内核到0.9.8
最近我在香橙派5B上折腾RKLLM大模型的时候,发现官方文档明确要求NPU内核版本至少需要0.9.6以上,而最新的RKLLM SDK 1.2.1更是要求0.9.8版本。我一开始也没太在意,结果运行模型时直接报错,提示NPU版本不兼容。
查了一下自己的NPU版本,果然还是老旧的0.9.2。这就好比你想用最新的软件,却还在用老掉牙的操作系统,根本跑不起来。特别是如果你想跑Qwen2-VL-2B这样的多模态模型,或者DeepSeek-R1这样的先进模型,0.9.8的NPU驱动是必须的。
新版本不仅修复了很多bug,更重要的是大幅提升了NPU的利用效率。实测下来,升级到0.9.8后,RKLLM的推理速度提升了将近30%,内存占用也优化了不少。这对于资源有限的开发板来说简直是雪中送炭。
2. 准备工作:检查当前环境
在开始升级之前,得先确认一下现在的环境状态。首先通过SSH登录到你的香橙派5B,然后输入以下命令查看当前的NPU版本:
cat /sys/kernel/debug/rknpu/version
如果你看到的是0.9.8或者更高版本,那恭喜你,可以直接跳过这篇文章了。但如果显示的是0.9.6或者更早的版本,那就需要跟着我一步步升级了。
还需要确认一下系统内核版本,因为不同的内核版本需要不同的处理方式:
uname -r
常见的版本有5.10.160、6.1.43等,记下这个数字,后面会用到。另外检查一下磁盘空间,编译内核需要至少20GB的可用空间,不够的话赶紧清理一下。
3. 两种升级方案选择
根据我的经验,升级NPU驱动有两种主流方案,各有利弊。第一种是简单粗暴的deb包安装,适合不想折腾的初学者。第二种是从源码编译,适合需要自定义配置的进阶用户。
如果你用的是官方镜像,而且内核版本比较新,可以尝试直接安装deb包。到香橙派官网下载对应的NPU驱


993

被折叠的 条评论
为什么被折叠?



