DeepSeek原理与效应+DeepSeek深度分析解读.pptx

深度解读DeepSeek:原理与效应

熊德意天津大学

dyxiong@

https://dyxiong.github.io

https://tjunlp-lab.github.io;

大语言模型发展路线图

DeepSeekV2-V3/R1技术原理DeepSeek效应

未来展望;

生成式Al:2014——2024

ENIAC图灵测试达特茅斯会议ELIZAAl寒冬I专家系统Al寒冬II统计方法NN再兴起

194519501956198019801990s1990-2000s2006-

AGI...ASI

20142024

生成式AI;

生成式Al:2014——2024

ENIAC图灵测试达特茅斯会议ELIZAAl寒冬I专家系统Al寒冬II统计方法NN再兴起

194519501956198019801990s1990-2000s2006-

AGI...ASI

20142024

生成式AI;

生成式Al:2014——2024

ENIAC图灵测试达特茅斯会议ELIZAAl寒冬I专家系统Al寒冬II统计方法NN再兴起

194519501956198019801990s1990-2000s2006-

AGI...ASI

20142024

生成式AI;

图灵测试达特茅斯会议ELIZAAl寒冬I专家系统Al寒冬II统计方法NN再兴起

E194519501956198019801990s1990-2000s2006-

20142024

生成式AI;

生成式Al:2014——2024

ENIAC图灵测试达特茅斯会议ELIZAAl寒冬I专家系统Al寒冬II统计方法NN再兴起

194519501956198019801990s1990-2000s2006-

AGI...ASI

20142024

生成式AI;

Trainedtopredictthenextwordinasentence:

Thecatischasingthe

10010100101010100101001

100101001;

AnthropicAl

WebGPTS

Ernie3.0Titan

Gopher

GLaM

BLOOM

mTO

BLOOMZ养

GalaticaX;

对齐训练数据

Prompt

Rosponses

软件

资源分配

dockerkubernetes任务调度;

数据处理预训练后训练应用部署

数据治理基座模型对齐模型红队测试

数据要素自监督学习■微调强化·商业落地

知识源头能力涌现安全可信模型压缩

o训练范式o关键

·预训练——基座模型●模型架构

·后训练——对齐模型·训练算法

·推理训练——推理模型·扩展法则

杀手锏：