ChatGPT的运行模式、关键技术及未来图景.pptxVIP

汇报：*** ChatGPT的运行模式、关键技术及未来图景+++ 摘 要 美国人工智能实验室 OpenAI 开发的人工智能聊天机器人应用 ChatGPT 引发广泛热议，被认为是继互联网、智能手机之后，带给人类的第三次革命性产品。 互联网开辟了“空间革命”，智能手机的出现带来“时间革命”，ChatGPT 的横空出世有望形成“思维革命”，通过替代人类进行创作、创意、解答、咨询、翻译和客服等改变人类思考和处理问题的方式方法，由此重塑各行业生态乃至整个世界。 埃隆·马斯克称 ChatGPT 将颠覆世界；微软公司以数百亿美元投资 ChatGPT，并计划将其整合到微软的 Offce 办公软件和 Bing 有哪些信誉好的足球投注网站引擎之中；部分高校和学术机构开展了关于使用 ChatGPT 写论文是否合规的大讨论；还有部分咨询公司担忧是否会被其替代。2023 年，ChatGPT 的应用热情被点燃，应用场景不断快速拓展。HOT PROJECTSCOMMENTEDBETA ALERTS CONTENTSChatGPT运行模式ChatGPT关键技术ChatGPT未来图景ChatGPT 的影响分析0201 0304 ChatGPT运行模式01 云计算+++ ChatGPT运行模式OpenAI GPT 1.0Large LanguageModel LLM未来的 AGI超大型 LLMArtifcial General IntelligenceAGI超级AGI 2022 年 11 月上线的 ChatGPT 是由美国人工智能实验室 OpenAI 开发的人工智能聊天机器人应用，上线不到一周用户突破 100 万，两个月时间吸引活跃用户超亿人，打破抖音 9 个月吸引用户过亿的记录，成为历史上用户增长速度最快的应用程序。发 展历 程 幕后：大型语言模型LLM：构建一个与任务无关的超大型 LLM，让它从海量数据中学习各种知识。LLM 模型的规模必然是巨大的，有能力开发出该模型或改动该模型参数的机构较少。LLM 应具备强大的自主学习能力。海量数据中要吸收所有知识，就需要足够多的模型参数存储知识，因此，这一模型必然会是“巨无霸”式的模型。ChatGPT 将人类偏好知识注入 GPT-3.5，获得能够听得懂人类语言、自身拥有判断标准的LLM。台前：新型人机交互接口 一种较为理想的新型人机交互模式。不需要专业的能力和高端的设备，只要开口表达人类诉求，人工智能就能够理解并帮助人类进行解答。ChatGPT 集中于“仿真性”，是ChatGPT 的“智力”得到进一步提升，变得更加聪明。 ChatGPT关键技术02 云计算+++ ChatGPT关键技术ChatGPT 在自然语言处理的系列任务方面，例如，文本理解与生成、对话问答、机器翻译和程序代码生成等方面都有较大进步。研究发现从技术层面讲，得益于近几年深度神经网络、大型语言模型研究的不断发展，即海量数据加之巨大的算力催生这样一个大型语言模型的落地应用。换言之，ChatGPT 背后的关键技术离不开大模型算法、大数据和大算力。…… 算法 ChatGPT 由 GPT-3.5 模 型 提 供 支 持，GPT（Generative Pre-trained Transformer，生成式预训练转换模型）是一种基于互联网可用数据训练的文本生成深度学习模型。在算法方面，该模型使用“利用人类反馈强化学习（Reinforcement Learning from Human Feedback，RLHF）”的训练方式，包括人类提问机器回答、机器提问人类回答，并不断迭代，让模型逐渐具有对生成答案的评判能力。e7d195523061f1c01ef2179423570dbaaBC1F97BAEF0C8FC051856578EAB7874501A1FFE158C4981707381814BCC4D9A8E3554438DEE4FBCF5A5B4D2A8B0989AB57E8BAC65EBC5561CC52632EE71BE3CB3E7D795CEBC0BBDEFA9B9283E81C288202D1B58F5340AE72D810F7EE0B794D3E42EDE13B2B641478E5140378E24B535FE96983F6D4FRLHF三个步骤 算力 ChatGPT 能够成为新一代人工智能里程碑，离不开算力发展和数字经济时代形成的大数据共同支持的大型语言模型训练。 在算力方面，ChatGPT 使用的 GPT-3.5 模型在微软云计算服务 Azure AI 的超算基础设施上进行训练，总算力消耗约 3640 PF-days。 算力如同被广泛使用的电力一般，是一项具有潜