债市DeepSeek赋能固收研究初探.docx

正文目录

TOC\o1-3\h\z\u引言 4

何为大语言模型？ 4

预训练与微调模型 5

提示词工程模型 5

指令类与推理类模型 6

大模型在金融任务中的应用 6

金融大模型一览 6

金融大模型应用场景初探 8

语言任务 8

情绪分析 8

金融时间序列分析 9

深度求索，DeepSeek 9

全面解析DeepSeek 9

DeepSeek应用场景初探 11

风险提示 13

图表目录

图1：金融领域大模型演变史 4

图2：金融LM中使用的技术比较：从FinPLM到FinLLM 5

图3：提示词工程：零样本COT提示 6

图4：提示词工程：案例展示 6

图5：金融大模型发展历程 7

图6：金融中各种语言任务的图示 8

图7：金融情感分析代表论文 9

图8：金融时序分析 9

图9：检索增强生成（RAG） 10

图10：DeepSeek架构，采用MLA和MoE进行推理训练 11

图11：DeepSeek量化交易能力卓越（第一） 11

图12：DeepSeek语言能力表现位列前茅（第七） 11

图13：用户提问和DeepSeek思考过程（R1模式联网有哪些信誉好的足球投注网站） 12

图14：信息检索后续补充需求 12

图15：代码原题和DeepSeek解答 12

图16：引导DeepSeek进行细节解释 12

图17：2025年1月社融规模及其结构提问和思考过程 13

图18：2025年1月社融数据分析结果 13

引言

在金融市场复杂度不断攀升的背景下，大模型凭借其强大的数据处理、规律识别以及基于数据决策的能力，备受业界关注。随着AI技术的发展，特别是大语言模型（LargeLanguageModels，简称LLM）的兴起，金融投研工作迎来全新机遇与挑战。随着深度学习技术突破，Transformer架构和自监督学习的进步，大模型量化方法在金融领域迅速崛起，其能处理自然语言和图像数据，通过分析市场新闻、财报等非结构化数据辅助投资决策，具备强大的模式识别能力，可处理多源异构数据，捕捉传统方法难以发现的复杂关系。

2025年1月上线的DeepSeek模型表现亮眼，凭借低成本、高性能、开源的特点引发市场热议，注册用户数激增，迅速超越ChatGPT成为现象级产品，节后各行业加速部署，推动国产AI发展。大型企业出于数据安全和模型微调需要，常对DeepSeek进行私有化部署。

大模型的普及对固收投研工作影响深远。固收投研工作涉及大量数据分析、文字处理和非结构化数据挖掘、市场情绪分析等事务，而DeepSeek在逻辑推理、信息检索、年报解读、纪要等基础工作上表现优异，有助于大幅提升工作效率。作为DeepSeek赋能债券研究系列报告的起点，本文将基于固定收益投资者的视角，对DeepSeek在投研工作中的使用进行初步介绍和测试，后续我们将会尝试将DeepSeek应用到在债券研究中的实际应用场景。

何为大语言模型？

大语言模型是一类基于深度神经网络构建，参数量通常在数十亿或更多数量级的语言模型。这类模型一般通过自监督学习方法，在海量无标注文本上进行训练，进而学习到丰富的语言知识和语义理解能力，能够实现文本生成、问答、翻译、摘要等多种自然语言处理任务。当前，大型模型已经在多样的下游任务中逐步展现出其应用潜力，众多研究也正在积极探索将这些模型应用于广泛和垂直的金融任务中。

我们可以将大语言模型（LLMs）从不同维度进行分类，如按模型大小分为预训练与微调模型、按使用方式维度可分为指令类、推理类模型和提示词工程模型。

图1：金融领域大模型演变史

《ASurveyofLargeLanguageModelsinFinance(FinLLMs)》，

预训练与微调模型

预训练大语言模型（Pre-trainedLanguageModels，PLMs）通常是参数数量相对较少的金融领域预训练语言模型。尽管规模较小，但其在金融领域特定任务上进行了优化。预训练模型（PLM）在大规模文本数据预训练，通过学习通用语言，为后续微调(Fine-tune)提供基础，一般不直接用于特定任务。微调模型则基于预训练模型，用特定任务数据微调以提升在特定任务的表现。

图2：金融LM中使用的技术比较：从FinPLM到FinLLM

《ASurveyofLargeLanguageModelsinFinance(FinLLMs)》，

提示词工程模型

提示词工程大语言模型一般是具有大量参数（通常超过十亿个参