定陈冠中地瓜机器人RDK系列部署生成式AI模型

RDK系列产品介绍

RDK（Robotics Developer Kits）是地瓜智能基于其芯片打造的机器人开发者套件，包括RDK X3、RDK X3 Module、RDK X5、RDK X5 Module等，搭配TogetheROS.Bot机器人中间件，可帮助开发者快速搭建机器人原型。RDK系列产品具有不同的Compute能力、CPU、GPU、DDR、eMMC和Wi-Fi规格，例如RDK X5具有5 Tops Compute能力，4×Cortex A53 1.8G CPU，2/4 GB DDR，Wi-Fi 2.4G/5G，并已获得CE/FCC/MIC/KC认证。

RDK上的模型部署

人工智能经历了从传统语言模型到自然语言处理（NLP）的发展，而大语言模型（LLM）如ChatGPT、文心一言、Llama、Baichuan2、同义千问等基于海量数据进行预训练，具有更好的泛化能力和迁移能力。地瓜工具链提供了Model Zoo，包含多种模型资源。

RDK上LLM技术选型

LLM主要分为基于Transformer和基于RNN的模型。RWKV语言模型在架构上继承了Transformer的思想，但通过Time Mixing和Channel Mixing机制改进了内存占用和训练效率。RWKV模型具有以下优势：

• O(1)内存占用
• 高效训练
• O(T)推理速度
• 可解释性强

RDK上LLM效果演示

RDK上展示了端侧RWKV-V5和Llama 1B模型部署，以及云端Qwen多模态模型的效果。