网站大量收购闲置独家精品文档,联系QQ:2885784924

DeepSeek V3搭建个人知识库教程.pdf

  1. 1、本文档共4页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

DeepSeekV3搭建个⼈知识库教程

DeepSeekAI知识库AnythingLLM

为什么需要私⼈AI知识库

是不是厌倦了LLM⼀本正经的答⾮所问、套话...等低效的信息检索。

私有知识库在前AI时代就有⾮常多使⽤场景,尤其是企业内部知识、个⼈知识库等。结合⼀个优秀的

LLM之后,能够让知识检索和归纳上升⼀个台阶。

⼩⽩快速搭建个⼈AI知识库

个⼈AI知识库的⽅案有很多种,今天介绍⼀种难度很低且知识检索效果不错的⽅案:

AnythingLLM+DeepSeekV3。

•AnythingLLM是⼀个知识库管理前端⼯具,⽀持上传知识、向量化数据、RAG(检索增强)⼀条

⻰服务,⽽且是开源免费的。

•DeepSeekV3(简称DS)是幻⽅量化的⼤模型,总体评分和Cladue3.5不相上下,⽽且Token⾮常

便宜,本次⽅案使⽤DS作为推理模型。

(AnythingLLM还⽀持其他推理模型,如GPT、Claude或者ollama运⾏本地开源模型等)

⼀、安装AnythingLLM

1.下载地址:/,⽀持windows、mac、Linux系统。

2.打开软件,先设置LLM,这⾥选DeepSeek,模型选择chat(也就是必威体育精装版的V3模型)。APIKey可以

去它们官⽹注册下,充值⼏块钱就够⽤了。

3.进⼊⼯作区,可以在左下⻆设置按钮中进⾏基础配置,如:LLM、嵌⼊模型、向量数据库选择等,新

⼿可以先保持默认设置。

(这⾥单独提下Embedding模型,Embedding是将⾼纬度数据嵌⼊低纬度空间⽅便存储,模型性能影

响对后续知识检索有挺⼤影响,建议可以换成bge-m3,这个模型对多语⾔和⻓⽂本都⽀持的不错,需

要本地运⾏Ollama加载这个模,由于需要安装Ollama,新⼿可以跳过这⼀步)。

⼆、上传⽂档

1.上点击⼯作空间的上传按钮,打开上传

2.⽀持上传pdf、csv、⾳频或者抓取⽹⻚内容等等。上传后右键加⼊⼯作空间就ok了。

3.也可以在DataConnnector中获取youtube(需要有cc字幕)视频、confluence⽂档库等内容平台的

数据。

三、知识检索问答

1.在⼯作区点击newthread可以开启新的对话,然后提问就ok了

2.如果想判断LLM回答的知识范,可以在回答的底部点开:ShowCitations就能看到引⽤了哪些知

识。

AnythingLLM是⼀个很强⼤的知识库管理⼯具,新版本还提供了Agent模式,可以接⼊⾕歌、bing等搜

索引擎,实现实时有哪些信誉好的足球投注网站增加检索的时效性。

文档评论(0)

188****4099 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档