嵌入式 Linux C ARM @IT·互联网正点原子

【DeepSeek部署实战】正点原子RK3588开发板本地化部署

2025-02-25  本文已影响0人  正点原子

【视频发布】正点原子RK3588开发板本地化部署DeepSeek R1 大模型视频系列视频教程来啦!

一、课程内容

承接上一次板端部署DeepSeek R1大模型的文档教程,应粉丝们的要求,本次推出视频教程,手把手教学实现端侧部署,无需依赖云端服务器即可本地化处理数据,功耗更低、成本更优异、数据更安全、自主可控,探索端侧AI应用无限可能!

(1)资料下载链接

视频教程】(点击观看)

资料下载

在线文档教程

(2)视频课程目录

第1讲  聊一聊DeepSeek R1大模型

第2讲  部署前期准备

第3讲  Ubuntu下搭建模型转换环境

第4讲  下载DeepSeek R1原生大模型

第5讲  转换1.5B版本大模型

第6讲  部署1.5B版本大模型

第7讲  测试命令介绍

第8讲  转换7B版本大模型

第9讲  部署7B版本大模型

二、配套硬件

本次实验使用的是正点原子RK3588开发板,RK3588是瑞芯微推出的旗舰级芯片,属于多核异构,其具有高性能八核处理器(四核ARM Cortex-A76 + 四核ARM Cortex-A55),内置高性能GPU,自带6 TOPS算力的NPU,支持8K硬件视频编解码。RK3588凭借其强大的处理能力和低功耗特性,成为嵌入式AI应用平台的理想选择!

  正点原子RK3588开发板对DeepSeek R1蒸馏版本大模型支持情况如下,其中,DDR为4GB版本的开发板只能部署1.5B版本大模型,DDR为8GB和16GB版本的开发板支持部署1.5B和7B版本大模型,DDR为16GB版本的开发板运行性能效果最佳,大家可根据需要进行选择。

上一篇 下一篇

猜你喜欢

热点阅读