大模型原理与技术-课件 chap1 绪 论.pptx

绪论计算机科学与技术学院智周万物?道济天下

o大模型基本概念o大模型发展历程o大模型关键技术及训练流程l大模型关键技术l大模型训练流程o内容安排22 目录

o大模型基本概念o大模型发展历程o大模型关键技术及训练流程l大模型关键技术l大模型训练流程o内容安排3 目录

大模型基本概念4o大模型是通过“大数据+大算力+强算法”相结合来模拟人类思维和创造力的人工智能算法

大模型基本概念5o大模型是通过“大数据+大算力+强算法”相结合来模拟人类思维和创造力的人工智能算法l大数据：规模巨大、多样化的数据集合。具有广度和深度的数据可以提供丰富的信息来训练和优化大模型，从而使大模型具备更全面的认知和更准确的预测能力，更好地理解现实世界复杂的现象和问题。l大算力：指计算机或计算系统具有处理和执行复杂计算任务的高度能力。大模型涉及庞大的参数和复杂的计算任务，强大的算力是支撑大模型训练和推理的基石。在训练阶段，大算力可以加速数据预处理、特征提取和模型优化，使得模型能够更快地收敛；在推理阶段，大算力可以实现模型的高效运行和及时响应，满足用户对于实时性的需求。l强算法：指在解决特定问题或执行任务方面表现出高效率、高准确率和强鲁棒性的算法，是模型解决问题的机制。强算法能够更好地挖掘大数据中的潜在模式，并将其转化为模型的优化方向，在面对不确定性和变化时保持高度的适应性和稳定性，有效应对现实世界中的复杂问题。

大模型基本概念6o大模型是“大数据+大算力+强算法”相互融合的产物大模型是一种全新的AI基础范式

o大模型基本概念o大模型发展历程o大模型关键技术及训练流程l大模型关键技术l大模型训练流程o内容安排7 目录

大模型发展历程8Transformer架构GPTBERT技术架构参数规模模态支持大规模预训练模型超大规模预训练模型预训练模型多模态跨模态单模态应用领域基础大模型行业大模型

o大模型基本概念o大模型发展历程o大模型关键技术及训练流程l大模型关键技术l大模型训练流程o内容安排9 目录

大模型关键技术：模型扩展10模型扩展扩展计算资源扩展训练数据扩展模型规模提升模型处理和学习能力提高模型泛化能力和性能加速模型训练过程o最近的一项研究探讨了在给定固定预算的情况下，模型大小、数据规模和计算资源之间的平衡关系。o该研究突显了模型规模的增大在一定程度上能够提升性能，但同时也指出了遭遇递减收益的问题。o因此，制定出精确而高效的模型扩展策略需要综合考虑多个因素，并在计算资源有限的情况下实现最佳效益。

大模型关键技术：模型训练11o由于具有巨大的参数，训练对于大模型来说是一项极具挑战性的任务。o大模型通常需要采用各种并行策略，在多个计算设备上同时进行训练，因此，分布式训练在学习大模型网络参数方面扮演着不可或缺的角色。o同时，为了支持分布式训练，一些优化框架已经问世，进一步促进并行算法的实施和部署，包括DeepSpeed和Megatron-LM等。模型训练分布式训练优化框架的提出支持

大模型关键技术：对齐调优12o由于大模型接受预训练时涵盖了各种语料库的数据特征。o因此，大模型存在生成有毒、偏见甚至有害内容的潜在风险。o为确保大模型与人类价值观保持一致，InstructGPT提出了一种有效的微调方法：o通过基于人类反馈的强化学习技术，使大模型能够按照期望的指令进行操作。

大模型关键技术：能力诱导13o在大规模语料库上进行预训练后，大模型获得了作为通用任务求解器的潜在能力。o然而，这些能力在执行某些特定任务时可能并不会明显展现。o因此，通过设计适当的任务引导或特定上下文学习策略唤起这些潜能。提示词的微妙变化对大模型输出结果的影响

大模型关键技术：工具使用14o大模型通过在海量纯文本语料库上进行文本生成训练，因此在一些不适合以文本形式表达的任务上可能表现不佳。o此外，它们的能力也受限于预训练数据，无法获取必威体育精装版信息。o为了解决这些问题，近期有研究提出利用外部工具来弥补大模型的不足。l例如，大模型可以通过使用计算器进行准确计算，或者利用有哪些信誉好的足球投注网站引擎检索未知信息。l最近，ChatGPT已经实现了一种机制，允许使用外部插件，无论是现有的还是新创建的应用程序。l通过这种机制，大模型可以更广泛