瑞芯微RK3588RK1828一、产品介绍协处理器产品非协处理器产品二、环境配置安装协处理器RK1828安装USB驱动下载固件和升级工具烧录分区镜像文件固件升级查看固件或板卡信息三、安装预编译套件 以下操作需在 root 用户下执行协处理器RK1828查询软件版本查询硬件版本查询NPU状态实时监控负载查询板卡信息查询设备工作模式调整工作模式RK3588本身的NPU查询负载查询支持的工作模式查询支持的频率查询当前频率设置为性能模式设置RK3588为性能模式查看RK3588工作模式四、安装和使用 SDKSDK 介绍RKNN3-ToolkitRKNN-Toolkit2RKNN-Toolkit工具链-RKNN3介绍PC侧离线模型转换工具SOC侧工具NPU侧工具通信服务工具视频解码测试多路解码命令查询视频解码器负载查询硬件解码耗时五、常见问题rknn-smi 的使用问题一、产品介绍协处理器产品主控SoCRK3588、RK3576协处理器RK1820、RK1828通过 USB/PCIe/Ethernet 与主控SOC连接RK3588_EVB10 开发板搭载的是 RK1820/RK1828 SODIMM 模组模组采⽤260PIN 内存条⾦⼿指接⼝配套 RK3588 EVB10 做集成验证。非协处理器产品RK3572 SoC集成高性能NPU的SoC平台NPU与CPU/GPU共享内存空间NPU直接运行在开发板。二、环境配置安装协处理器RK1828在RK3588主控板上插入协处理器RK1828后需要确认连接线是否成功连接到SOC主控rknn3_transfer_proxy devices安装USB驱动在 windows 系统的PC上需要安装 ADBDriver 驱动才能使用type-c接口的数据线与RK3588的开发板建立调试连接。下载驱动安装包【DriverAssitant_v5.13】并安装和配置系统环境变量使其在 cmd 终端中能够找到此驱动并使用adb shell进入开发板终端调试环境。下载固件和升级工具烧录分区镜像文件在PC机上启动固件升级工具RKDevTool.exe然后进入工具主界面烧录分区镜像文件先加载分区配置文件主界面鼠标右键——导入配置——选择分区参数配置文件**“parameter.txt”**然后工具会自动读出参数文件的分区地址和分区名称需要根据这些分区名称在路径列选择对应的镜像文件然后点击下方的执行按钮进行分区烧录注意此处不要选择“update.img 文件因为它是固件升级镜像不是分区镜像”固件升级点击固件按钮-选择固件发行包镜像文件update.img注意此处点击升级之前需要先点击下切换按钮。查看固件或板卡信息先在主界面点进切换按钮然后再进入“高级功能”界面点击相应的按钮进行信息读取。三、安装预编译套件以下操作需在 root 用户下执行在 RK3588 EVB10 上安装 RK1820/RK1828 SODIMM 预编译套将下载*“ rknn3_rk182x_sodimm_installer_arm64.tgz”*文件拷贝到开发板上并在解压后执行./install.sh命令进行安装。tar-xvfrknn3_rk182x_sodimm_installer_arm64.tgz ./SDKcd./SDK./install.sh出现如下图所示的安装详情信息协处理器RK1828查询软件版本查询硬件版本查询NPU状态实时监控负载查询板卡信息查询设备工作模式调整工作模式使用 rknn-smi 调整 RK1820/RK1828 NPU 性能档位0-EFFICIENT1-NORMAL2-PERFORMANCERK3588本身的NPU查询负载sudo cat /sys/kernel/debug/rknpu/load查询支持的工作模式cat /sys/class/devfreq/fdab0000.npu/available_governors查询支持的频率cat /sys/class/devfreq/fdab0000.npu/available_frequencies查询当前频率cat /sys/class/devfreq/fdab0000.npu/cur_freq设置为性能模式echo performance /sys/class/devfreq/fdab0000.npu/governor设置RK3588为性能模式设置性能模式echo performance | tee $(find /sys/ -name *governor)查看RK3588工作模式查看模式cat /sys/devices/system/cpu/cpu*/cpufreq/scaling_governor四、安装和使用 SDKSDK 介绍注意RKNN3-Toolkit与RKNN-Toolkit和RKNN-Toolkit2不兼容。RKNN3-ToolkitRKNN3-Toolkit支持的平台RK1820、RK1828、RK3572。RKNN-Toolkit2RKNN-Toolkit2支持的平台RK3588、RK3576、RK3568、RK3566、RK3562系列RV1103、RV1106、RV1103B、RV1106B、RV1126B、RK2118。RKNN-ToolkitRKNN-Toolkit支持的平台RK1808、RV1109、RV1126、RK3399Pro。工具链-RKNN3介绍RKNN3支持两种部署模式协处理器模式RK182X主控SoC如RK3588/RK3576通过PCIe/USB/Ethernet与RK1820/1828协处理器互联应用运行在主控SoC上通过RKNN3 API控制协处理器执行AI推理。非协处理器模式RK3572RK3572 SoC集成高性能NPU应用直接运行在RK3572上通过RKNN3 API控制NPU执行AI推理。PC侧离线模型转换工具RKNN3 Model Zoo将LLM和VLM转换为ONNX格式并提供丰富的模型转换与部署示例涵盖多种AI模型类型。CNN模型MobileNetV2、ResNet50、YOLOv5、YOLOv6、YOLOv8等视觉识别与检测模型。LLM模型Qwen2.5 0.5B、1.5B、3B、Qwen3 0.6B、 1.7B、 4B等大语言模型。VLM模型FastVLM、Qwen2.5 VL、Qwen3 VL等视觉语言多模态模型。RKNN3-Toolkit模型转换核心工具将ONNX、PyTorch、TensorFlow等模型转换为 ** “.rknn” 和 “.weight ” **格式完成图优化、多核拆分、量化、精度分析与可视化分析等功能。SOC侧工具对于协处理器模式系列的产品RK3588而言此处的SOC侧是指RK3588的主控SOC对于非协处理器的产品RK3572而言此处的SOC是指RK3572本身因为它和NPU共用CPU或内存资源。RKNN3 API核心接口层支持C和Python两种编程语言接口按照功能类型分成以下不同系列的API基础 API模型加载、初始化、查询、内存管理、设置运行核心、销毁等基础操作。通用推理 API面向CNN/ViT等通用视觉模型的推理接口Session API面向LLM的推理接口支持KV Cache、自定义采样策略等功能rkllm3-server提供OpenAI兼容API服务支持通过标准的OpenAI API接口调用LLM和VLM模型支持文本、图片和语音输入暂不支持视频输入。该服务器简化了大模型的集成和调用流程方便与现有应用生态对接。NPU侧工具对于协处理器模式系列的产品RK3588而言此处的设备侧工具是指运行在协处理器RK1828上的环境对于非协处理器的产品RK3572而言此处的工具是直接运行在RK3572的SOC上。RKNN3 Runtime负责模型执行、内存管理、推理任务调度、多核并行、Session会话管理RKNN3 NPU 驱动负责任务下发、中断同步、负载统计等底层操作通信服务工具rknn3_transfer_proxy协处理器模式系列产品使用的服务提供主控SoC与RK1820/1828协处理器之间的通信代理服务支持PCIe、USB和以太网三种连接方式。应用运行在主控SoC上通过RKNN3 API与rknn3_transfer_proxy控制RK1820/RK1828协处理器上的模型加载与推理执行。rknn3-server非协处理器模式系列产品使用的服务负责处理来自PC端的连板推理请求管理NPU资源。应用直接运行在RK3572上通过RKNN3 API控制本地NPU。用戶可以选择直接使用RKNN3 API进行模型推理或通过 *rkllm3-server *使用OpenAI兼容接口调用大模型服务。视频解码测试多路解码命令exportGST_DEBUGmpp*:4,fpsdisplaysink:6test(){gst-launch-1.0\filesrclocation/userdata/test-data/5_4096_2160.mp4!\qtdemux!\h264parse!\mppvideodecfbcfalse!\identitysyncfalse!\fpsdisplaysink video-sinkfakesink\syncfalse text-overlayfalse signal-fps-measurementstrue}for((int0;int${loop_count};int))dotestdonewait查询视频解码器负载查询硬件解码耗时测试结束关闭mpp的日志记录echo 0 /sys/module/rk_vcodec/parameters/mpp_dev_debug掩码值 (Hex)掩码值 (Dec)作用说明0x00000关闭调试恢复默认状态不输出底层硬件调试日志。0x00011API 调用跟踪打印 MPP 对外暴露的 API 函数调用流程。0x00022硬件寄存器读写打印底层对 VPU/RKVDEC 等硬件寄存器的读写操作信息量极大极易导致系统卡顿。0x00044内部状态机打印解码器内部的状态机流转和状态变更。0x00088缓冲区/内存管理打印帧缓冲区的分配、释放和队列流转状态。0x001016硬件中断信息打印底层硬件中断触发和处理的状态。0x0100256性能统计信息打印每一帧的硬件解码耗时、队列等待时间等即你当前使用的参数。五、常见问题rknn-smi 的使用问题在终端启动 rknn-smi 时出现如下错误解决方案首先查看日志文件cat /var/log/rknn-smi.log中报告的错误信息如果出现以下信息则排查当前终端用户是否对/tmp目录具备写入权限查看目录/tmp的权限中是否带有rwxrwxrwxt的权限标识去除其中的t权限。在终端启动 rknn-smi 时没有出现任何信息解决方案查看当前终端的登录用户尝试切换到root用户再次执行此命令。还需要排查是否已经启动了一个rknn-smi info 的任务在运行如果已经在运行则再启动一个也会出现这种问题。