DeepSeek模型本地部署与应用构建-清华大学.pdf

DeepSeek本地部署与应用构建

智灵动力陈军

1、DeepSeek简单介绍与使用

目录2、DeepSeek本地部署

3、本地知识库搭建

4、实际应用场景

DeepSeek简单介绍与使用

模型简介

本地化部署

推理能力强多种量化蒸馏模型开源生态

隐私保护

DeepSeekR1推理模型具提供多种量化蒸馏模型选择，开源社区支持，并兼容多

备强大的推理能力，能够准核心亮点在支持完全本地化包括8B、32B、70B等，以种开源框架，方便我们二

确理解并回应复杂的对话场部署，有效保护用户数据隐满足不同应用场景对精度与次开发和微调。同时也支

景，支持多轮对话，确保用私，避免敏感信息泄露，同性能的多样化需求。持跨平台适配。

户体验的连贯性和高效性。时提升推理速度与安全性。

应用场景

科研数据分析

DeepSeekR1在科研领域展现出了巨大潜力，通过高效处理和分析复杂数据，为科研人员提供深入见解，加速科研进展。

自动化工作流

集成DeepSeekR1于自动化工作流，显著提升流程智能化水平，自动处理数据，实现高效、准确的决策支持。

外挂大脑

日常答疑解惑，信息收集总结类，料汇总，策划分析写周报，写作直播的话术

DeepSeek使用途径

官网/APP

硅基流动

秘塔

cursor

Grok

本地部署/API

DeepSeek本地部署

本地部署的必要性

数据隐私保护离线使用

DeepSeekR1推理模型本地部署可即使在网络断开的情况下，用户仍可

有效避免敏感数据在推理过程中上传依赖本地部署的DeepSeekR1推理

至云端，确保数据隐私安全。模型进行智能分析，保障工作连续性。

自定义模型性能优化

数据弱审查本地部署DeepSeekR1推理模型能

够充分挖掘并利用本地硬件资源，如

根据特定需求，用户可灵活选择不同量化精度的CPU、GPU等，实现推理性能的优化

模型进行本地部署，提升。

实现性能与资源利用的最佳平衡。

可以弱化审核条件，更加全面的利用大模型能力

软件要求

操作系统安装包防火墙设置

DeepSeek支持Windows及Linux、部署DeepSeek需下载其本地部署包，为确保DeepSeek在断网环境下能够正

mac操作系统，确保了其在不同平台上该包已包含所有必要的依赖项和配置文常运行，需进行防火墙设置，禁止不必

的兼容性，为用