RKNN3 SDK 概述
RKNN3 SDK 是瑞芯微为 RK1820/RK1828/RK3572 平台提供的完整 AI 部署软件栈，统一覆盖 CNN、LLM、VLM、ASR/TTS 等所有模型类型，是 RK1828 开发的核心工具。
重要
RKNN3 Toolkit 与 RKNN-Toolkit 和 RKNN-Toolkit2 不兼容。
- RK1820/RK1828/RK3572 → 使用 RKNN3 Toolkit（本页介绍）
- RK3588/RK3576/RK3568 等 → 使用 RKNN Toolkit2
SDK 组成
| 组件 | 说明 |
|---|---|
| RKNN3-Toolkit | PC 端开发套件，模型转换、推理、性能评估 |
| RKNN3 Runtime | 板端运行时库，C/C++ 编程接口 |
| RKNN3 Model Zoo | 模型转换与部署示例仓库 |
典型工作流程
PC 端 设备端
┌──────────────────────┐ ┌──────────────────────┐
│ RKNN3-Toolkit │ 传输模型文件 │ RKNN3 Runtime │
│ 1. 加载模型 │ ──────────────→ │ 4. 加载 RKNN 模型 │
│ 2. 转换 + 量化 │ │ 5. 推理 │
│ 3. 导出 .rknn 文件 │ │ 6. 输出结果 │
└──────────────────────┘ └──────────────────────┘支持平台
- RK1820
- RK1828
- RK3572
支持的模型
大语言模型 (LLM)
- Qwen2.5-0.5B / 1.5B / 3B / 7B
- Qwen3-0.6B / 1.7B / 4B / 8B
- HY-MT1.5-1.8B
- Youtu-LLM-2B
- GLM-Edge
多模态模型 (VLM)
- Qwen2.5-VL-3B / 7B
- Qwen2.5-Omni-3B (Thinker)
- Qwen3-VL-2B / 4B
- FastVLM-1.6B
- InternVL3-2B / InternVL3.5-4B
- MiMo-VL-7B-RL
- Gemma4
- SmolVLM / SmolVLM2
语音模型
- Qwen3-ASR（语音识别）
- Qwen3 TTS（语音合成）
- VITS（音频合成）
- Whisper / SenseVoice / Zipformer
CNN 模型
- MobileNetV1 / V2
- ResNet-50
- YOLOv5 / YOLOv6 / YOLOv8
- YOLO-World
其他
- SigLIP / SigLIP2 / MetaCLIP2（视觉编码）
- DINOv2 / DINOv3（视觉特征）
- Qwen3-Reranker / Qwen3-Embedding
- Diffusion Policy / GR00T
与 RKNN Toolkit2 的区别
| 特性 | RKNN3 Toolkit | RKNN Toolkit2 |
|---|---|---|
| 目标芯片 | RK1820/RK1828/RK3572 | RK3588/RK3576/RK3568 等 |
| 支持模型类型 | CNN + LLM + VLM + ASR/TTS | CNN 为主 |
| Python 版本 | 3.10 / 3.12 | 3.8 ~ 3.11 |
| 平台支持 | Linux / Windows | Linux / Windows |
| 兼容性 | 互不兼容 | 互不兼容 |
参考链接
- RKNN3 Toolkit GitHub
- RKNN3 Model Zoo（官方预转换模型与部署示例）
- RKNN-LLM（RKNN Toolkit2 + LLM 工具链）
- RKNN Toolkit2（RK3588 等）