【DeepSeek部署实战】正点原子RK3588开发板本地化部署
2025-02-25 本文已影响0人
正点原子

【视频发布】正点原子RK3588开发板本地化部署DeepSeek R1 大模型视频系列视频教程来啦!

一、课程内容
承接上一次板端部署DeepSeek R1大模型的文档教程,应粉丝们的要求,本次推出视频教程,手把手教学实现端侧部署,无需依赖云端服务器即可本地化处理数据,功耗更低、成本更优异、数据更安全、自主可控,探索端侧AI应用无限可能!
(1)资料下载链接
【视频教程】(点击观看)
【资料下载】
【在线文档教程】
(2)视频课程目录
第1讲 聊一聊DeepSeek R1大模型
第2讲 部署前期准备
第3讲 Ubuntu下搭建模型转换环境
第4讲 下载DeepSeek R1原生大模型
第5讲 转换1.5B版本大模型
第6讲 部署1.5B版本大模型
第7讲 测试命令介绍
第8讲 转换7B版本大模型
第9讲 部署7B版本大模型
二、配套硬件
本次实验使用的是正点原子RK3588开发板,RK3588是瑞芯微推出的旗舰级芯片,属于多核异构,其具有高性能八核处理器(四核ARM Cortex-A76 + 四核ARM Cortex-A55),内置高性能GPU,自带6 TOPS算力的NPU,支持8K硬件视频编解码。RK3588凭借其强大的处理能力和低功耗特性,成为嵌入式AI应用平台的理想选择!

正点原子RK3588开发板对DeepSeek R1蒸馏版本大模型支持情况如下,其中,DDR为4GB版本的开发板只能部署1.5B版本大模型,DDR为8GB和16GB版本的开发板支持部署1.5B和7B版本大模型,DDR为16GB版本的开发板运行性能效果最佳,大家可根据需要进行选择。
