地瓜机器人RDK系列部署生成式AI模型.docx

地瓜机器人RDK系列

部署生成式AI模型

陈冠中地瓜机器人算法工程师

DataFunSummit#2024

RDK系列产品介绍RDK上的模型部署

RDK上LLM的技术选型

RDK上LLM的实际效果演示

01

RDK系列产品介绍

嵌入式

嵌入式系统是一种专门设计用于特定任务的计算机系统。它通常被嵌入在另一个设备中，以控制、监测或执行某些特定功能。嵌入式系统通常包含一个或多个微处理器或微控制器，以及与其配套的硬件和软件。嵌入式系统可以用于各种不同的应用领域，例如汽车、家电、医疗设备、电子玩具、军事设备等等。

嵌入式系统通常需要满足以下特定要求：

实时性：嵌入式系统通常需要能够在严格的时间限制下运行。

可靠性：由于嵌入式系统通常被嵌入到其他设备中，因此其稳定性和可靠性非常重要。

低功耗：嵌入式系统通常需要在低功耗模式下运行，以便延长其电池寿命或降低功耗成本。

低成本：嵌入式系统通常需要在成本可控的情况下设计和制造。

智能家居机器人嵌入式产品介绍

智能家居

机器人

智能会议

服务工具链

服务

工具链

芯片算法智慧教育

芯片

算法

智慧教育

智能音箱

智能音箱

AIoT与通用机器人

AIoT与通用机器人

边缘计算盒

边缘计算盒

RDK系列

RDK全称为RoboticsDeveloperKits，即地瓜机器人开发套件（RDK）

是基于地瓜智能芯片打造的机器人开发者套件，包括RDKX3、RDKX3Module、RDKX5、RDKX5Module等。搭配TogetheROS.Bot机器人中间件，RDK套件可以帮助开发者快速搭建机器人原型，开展评测和验证工作。

RDK

RDKX3

Compute：5Tops

CPU：4×CortexA531.2G

DDR：2/4GBWi-Fi：2.4G

RDK

RDKX3Module

Compute：5Tops

CPU：4×CortexA531.5G

DDR：2/4GB

eMMC：16/32/64GBWi-Fi：2.4G/5G

RDKX3v2.0

Compute：5Tops

CPU：4×CortexA531.8G

DDR：2/4GB

Wi-Fi：2.4G/5G

Certification：CE/FCC/MIC/KC

RDK

RDKX5

Compute：10Tops

CPU：8×CortexA551.5G

GPU：32Gflops

DDR：4/8GB

Wi-Fi：2.4G/5G

RDKX5Module

Compute：？

CPU：？

GPU+Audio？

DDR：？

eMMC:？Wi-Fi：？

RDK

RDK？

Compute：20Tops

2022.6

2022.62023.52023.72024.920252026

RDK：RoboticsDeveloperKit

RDKX5

4G/8GRAM

4G/8GRAM灵活选择

40PIN

40PIN

最大化复用拓展

USB3*4

USB3*4

全高速通信

双频wifi6+蓝牙5.4极速通信

Debug串口便捷调试多标准兼容耳机

Debug串口便捷调试

天线模块媲美棒状天线

千兆网口

支持POE供电

TypeC供电5V/5A

RTC精准时间同步

TypeC闪连极速开发

双MIPI

4-Lane双目

RDKX5

公版模型

尺寸

类别数

参数量

BPU延迟

BPU吞吐量

后处理时间

Yolov8n

640x640

80

3.2M

5.6ms

263.6FPS

5ms

Yolov8s

640x640

80

11.2M

12.4ms

194.9FPS

5ms

Yolov8m

640x640

80

25.9M

29.9ms

35.7FPS

5ms

Yolov8x

640x640

80

68.2M

90ms

11.2FPS

5ms

Yolov10n

640x640

80

6.7G

9.3ms

132.7FPS

4.5ms

Yolov10s

640x640

80

21.6G

15.8ms

71.0FPS

4.5ms

Yolov10m

640x640

80

59.1G

30.8ms

34.5FPS

4.5ms

02

RDK上的模型部署

人工智能演变史

自然语言处理

自然语言处理是一种人工智能领域，旨在使计算机能够像人类一样理解和生成自然语