网站大量收购独家精品文档,联系QQ:2885784924

DeepSeek+r1闭门学习讨论+使用指南简版.pdfVIP

DeepSeek+r1闭门学习讨论+使用指南简版.pdf

  1. 1、本文档共36页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

DeepSeekr1闭门学习讨论|BestIdeasVol3

From:Shixiang

To:ShixiangFriends

「BestIdeas闭门讨论会Vol.3」聚焦在引爆全球AI社区的DeepSeekr1,本篇纪要是我们对

闭门会上参与讨论的嘉宾成员的观点的总结,不代表任何具体个人及机构观点立场。

I.DeepSeek

1.DeepSeek有好口碑的原因在于是第一个把复现MoE、o1等发出来,胜在做的早,但能

不能做的最好,空间还很大,和新挑战在于资源有限,只能把有限的资源放在最亮眼的

地方,但后续可能没有精力去做得更好,比如MoE,这个团队的research能力、团队文

化还是很好的,如果再给10、20万张卡,可能能做出更好的事情。

2.DeekSeek从preview到正式发布这段时间,长上下文能力提升很快。DeepSeek的Long

context10K用非常常规的方法就能够做到。

3.DeepSeek肯定没有5万张卡,公开信息说有1万张老的卡,可能有3千张禁令之前的

H800,DeepSeek很注重合规,所以卡应该很少。美国用GPU的方式太粗放了。

4.DeepSeek把所有精力都放在了一个很窄的点,把后续很多东西都放弃了,比如安全、多

模态等,不是单纯在服务人,而是做智能本身,可能也是成功的关键因素。

5.DeepSeek有一个文章是由文生图做图生文做耦合的学习。

6.量化就是DeepSeek的商业模式。幻方就是上一轮machinelearning的产物。DeepSeek最

重要的事就是push智能。钱和商业化的优先级都不高。中国需要有几个领先lab来做探

索能beatOpenAI的东西,智能要走的时间很长,今年又开始分化,肯定要有新东西出

来。

7.单从技术角度,DeepSeek作为黄埔军校对人才扩散有很大作用。

8.美国的AILab商业模式也不好,AI今天确实没有什么好的商业模式,后面可能需要跑

通。梁总是有抱负的,DeepSeek不在乎形态,往AGI走就是了。

ThisdocumentisforinformationpurposesonlyanddoesnotconstituteinvestmentadviceoranoffertosellorbuyFundshares.Anyoffering

ismadesolelythroughtheFundsofficialofferingmemorandum.

9.梁总是DeepSeek最核心的人,和Sam不是一类人,梁总是很懂技术的。

10.读完DeepSeek论文的感受是,很多都是节约硬件开销的tech,在比较大的几个scaling

方向上,DeepSeek的技巧可以把成本降下来。

11.长期不会对算力有影响,但短期大家会想怎么把AI做的更加有效率一点。需求还是很强

的,各家都是不够用的状态。

12.做投资,都选择最高级的组合,但现在觉得大家一起磨合好,能力也能慢慢变高级了,

挖走一个人是否能打破优势组合是一个问题,现在看对于DeepSeek的影响可能不是特别

大。

13.市场上钱还是多,核心是文化组织,DeepSeek和字节的researchculture比较像,比较

fundamental,文化好不好的衡量标准在于是否有足够的钱和长期性,有比较重要的商业

模式才能有长期性的文化,这两家公司的商业模式都非常好。

14.DeepSeek为什么能追这么快?

1)Reasoningmodel的需求是更高质量的数据和训练。如果是长文本、多模态,从0开始

追一个闭源模型会更困难,但纯reasoning模型本身的架构没有大动,reasoning是一个

更好追的方向。

2)r1能追的快的原因可能在于任务没有特别难,RL只是让模型选的更准,r1没有突破

Consensus32的效率,同时花了32倍效率,相当于把原来并行做探索改成串行了,没

有提高智能的边界,只是变得更加容易了。

II.DeepSeek出圈的影响

1.DeepSeek的出圈让外界意识到了中国的AI很强。以前外界认为中国的AI进展落后美国两

年,但DeepSeek

您可能关注的文档

文档评论(0)

翰林大当家 + 关注
实名认证
服务提供商

文案个性定制,计划书、方案、策划书专业撰写。

1亿VIP精品文档

相关文档