网站大量收购独家精品文档,联系QQ:2885784924

DeepSeek本地部署服务器.docxVIP

  1. 1、本文档共13页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

第PAGE1

第PAGE1页共NUMPAGES12页

DeepSeek本地部署服务器

DeepSeek本地部署服务器,再也不怕服务器崩了!

最近国产大模型DeepSeek非常火,但由于访问人数过多经常频繁出现反应迟缓甚至是宕机的情况。

但万幸的是,DeepSeek是一个开源模型,我们可以通过本地部署在自己的终端上随时使用,而且部署到本地后无需联网即可直接使用。

一:安装Ollama

如果想要在本地运行DeepSeek需要用到Ollama这个工具,这是一个开源的本地大模型运行工具。

我们可以访问/进入Ollama官网下载Ollama,下载时有三个系统的安装包可选择,这里只需要选择下载我们电脑对应的操作系统版本即可,这里我选择的是Windows版本。

Ollama安装包下载完成后直接双击安装即可,安装速度还是比较快的。

Ollama安装完成后需要打开电脑的CMD,也就是命令提示符,只需要在电脑下方的有哪些信誉好的足球投注网站框中输入cmd即可打开。

打开后在命令提示符窗口中输入ollamahelp并按回车键,这个操作是为了验证这个软件是否安装成功,如果没有报错的话则表示这个软件安装成功。

二:下载部署

Deepseek模型

回到/网址中,在网页上方有哪些信誉好的足球投注网站框中输入Deepseek-r1,这个Deepseek-r1就是我们需要本地部署的一个模型。

点击Deepseek-r1后会进入详情界面,里面有多个参数规模可供选择,从1.5b到671b都有。

需注意的是,这里我们需要根据自己电脑的硬件配置来选择模型大小,下面是一个模型大小配置参考表格,大家可根据自己的电脑配置来自行选择,当然了,部署的本地模型越大,使用的深度求索效果就越好。

选择好模型规模后,复制右边的一个命令。

命令复制完成后回到命令提示符窗口,将刚刚复制的命令粘贴到命令提示符窗口中并按回车键即可下载模型。

模型下载完成后,我们就直接可以在命令提示符面板中使用它了。

以后如果我们需要再次使用Deepseek这个模型的话,我们可以直接打开命令提示符窗口,只需要再次在命令符提示窗口中输入上面复制的指令即可。

三:可视化图文交互界面Chatbox

虽然我们可以在本地正常使用Deepseek这个模型了,但是这个AI工具的面板是非常简陋的,很多人使用不习惯,这时我们就可以通过Chatbox这个可视化图文交互界面来使用它。

点击https://chatboxai.app/zh进入Chatbox官网,Chatbox虽然有本地客户端,但我们也可以直接使用网页版。

进入Chatbox网页版本后点击使用自己的APIKey或本地模型。

点击后会进入模型提供方选择界面,这里选择OllamaAPI。

这里需要注意的是,为了能够Ollama能远程链接,这里我们最好看一下Chatbox提供的教程,根据这个教程操作一下。

这个教程还是非常简单的,如果是Windows操作系统则只需要配置一下环境变量即可,配置完环境变量后需重启一下Ollama程序。

重启Ollama程序后,我们需要将Chatbox设置界面关闭并重新打开,重新打开Chatbox设置界面后即可选

择Deepseek模型了,选择后Deepseek模型后点击保存即可。

接下来只需要在Chatbox中新建对话即可使用Deepseek模型了,以下图为例,上方是它的思考过程,下方是它给出的答案。

Chatbox可视化图文交互界面还有一个特点就是可以创建专属智能体,只需点击我的搭档即可创建,此功能是Deepseek官方暂时还没有的功能。

文档评论(0)

***** + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档