计算机行业定期报告：Deepseek发布全新注意力机制NSA.pdfVIP

华福证券计算机

20250223

年月日

行

业

研

计算机强于大市（维持评级）

究

Deepseek发布全新注意力机制NSA一年内行业相对大盘走势

投资要点：

Deepseek发布全新注意力机制NSA

NSA（硬件优化稀疏注意力机制）由Deepseek、北京大学和华盛顿大

学联合提出，旨在解决传统注意力机制在长上下文、多轮对话等场景下的

性能瓶颈。其创新性在于通过**三并行分支架构**（Token压缩、Token选

行

择、滑动窗口）结合可学习门控机制，动态平衡全局与局部注意力：压缩团队成员

业分支粗粒度捕捉全局信息，选择分支筛选关键稀疏单元以减少计算量，滑分析师：钱劲宇(S0210524040006)

定

动窗口则保留局部语法与语义连贯性；硬件层面基于Triton框架优化内存QJY3773@

期访问，通过组共享KV数据、高带宽HBM与片上SRAM协同计算，显著相关报告

报提升稀疏计算效率。该技术实现了推理速度与精度的平衡，适用于大语言1、美AI禁令或将升级——2025.01.13

告模型加速、长文档理解等需要高效长程依赖建模的场景。2、把握2025年两大核心主线——2025年计算机

行业投资策略报告——2025.01.07

本周AI数据更新：3、通用汽车退出Robotaxi业务，特斯拉或被寄予

厚望——2024.12.15

海外应用看20250220期间，Chatgpt下载量逐步回升，

Gemini、Perplexity和Claude整体保持稳定。

国内应用看20250220期间，Deepseek下载量稍有回落，

Kimi、通义、星火、文心一言整体保持稳定，腾讯元宝接入Deepseek后下

载量显著提升，现已超过30万次/日。

华福证券

风险提示

市场需求不及预期，人工智能技术发展不及预期，政策发布不及预期

等。

证

券

研

究

报

告

诚信专业发现价值1请务必阅读报告末页的声明

华福证券

行业定期报告|计算机

正文目录