Deepseek R1 本地部署完全⼿册V2.8.pdf

《DeepseekR1本地部署完全⼿册》V2.8

版权归：HomeBrewAiClub

作者wechat：samirtan

版本：V2.8

更新⽇期：2025年2⽉21⽇

⼀、简介

DeepseekR1是⽀持复杂推理、多模态处理、技术⽂档⽣成的⾼性能通⽤⼤语⾔模型。本⼿册

为技术团队提供完整的本地部署指南，涵盖硬件配置、国产芯⽚适配、量化⽅案、异构⽅案、

云端替代⽅案及完整671BMoE模型的部署⽅法。

核⼼提示：

个⼈⽤户：不建议部署32B及以上模型，硬件成本极⾼且运维复杂。

企业⽤户：需专业团队⽀持，部署前需评估ROI（投资回报率）。

满⾎版、蒸馏版、量化版

参数模型单机部署要

数值版

发布者名称（亿⼤⼩模型格式求（参考示

类型本

个）(G)例）

Atlas800I

满

A24*8卡昇

DeepSeekDeepSeek-R16710BF161342safetensors⾎

腾910B*

版

（64G）

8*Nvidia

满H200(141G)

DeepSeekDeepSeek-R16710BF8700safetensors⾎/8*AMD

版M1300X

(192G)

DeepSeek-蒸

8*3090

DeepSeekR1-Distill-700BF16150safetensors馏

(24G)

Qwen-32B版

DeepSeek-蒸