【ChatGPT市场报告】ChatGPT-真格基金分享-20230203_市场营销策划_2023年C.pptx

ChatGPT林惠?@真格基? 体验 ChatGPT 与 GPT-3 的对? 与 GPT-3 的对? 与 GPT-3 的对? 强烈建议体验https://mirror.xyz/ 0x6E1211dfcc20c75440E0B3c10721f5/9O9CSqyKDj4BKUIil7NC1Sa1LJM-3hsPqaeW_QjfFBc ChatGPT 提升的核?点敢于质疑不正确的前提主动承认错误和?法回答的问题?幅提升了对?户意图的理解?幅提升了结果的准确性提升?类意图的?致性连续多轮对话能? 提升的原因加?了基于?类的反馈系统Reinforcement Learning from Human Feedback丛问题库?抽取问题什么是?蕉？?蕉是?种?果，从?蕉树….标记者（Labeler）书写期待的回复被标记的数据?来调优GPT-3.5什么是?蕉？?蕉是?种?果，从?蕉树….?蕉是芭蕉科、芭蕉属植物...?蕉为芭蕉科植物?蕉的果实。原产亚洲东南部…?蕉，从属性来说，与草莓、葡 萄、猕猴桃是亲…标记者（Labeler）排序所有标记着答案?排序答案训练奖励模型采样问题，并列出所有模型和标记者的回答写个?獭的故事输?奖励模型得到分数和优化参数通过模型?成初步回答持续优化参数迭代很久很久以前... 往前捋捋GPT-1GPT-2GPT-3InstructGPTchatGPT20182019202020221500w 美?1750 亿参数15 亿参数1.17 亿参数 再往前捋捋GPT-1GPT-2GPT-3InstructGPTchatGPTTransformerBERTRoBERTaXLMALBERTELECTRAT5BARTM2m-100BigBird2017《Attention is All You Need》DecoderEncoder 继续再往前捋捋GPT-1GPTransformerBERTRoBT5B2017 开始CNN卷积神经?络RNN循环神经?络1990开始 - 2006突破 - 2015繁荣 继续再往前捋捋机器学习GPTTransformerBERT52017 开始CNN卷积神经?络RNN循环神经?络1990 开始 - 2006 突破1980 开始基于规则1950 开始 发展趋势机器学习Transformer优化?脑学习过程关注重点??全部神经?络基于规则?写规则，简单粗暴只能处理?常少量数据找到?些函数或参数分类固定量数据像?脑?样学习 开始尝试?量数据提前标记?些数据根据?量数据分类学习?个复杂的参数集合分类??和绿? 发展趋势Transformer优化?脑学习过程关注重点??全部神经?络像?脑?样学习提前标记?些数据根据?量数据分类学习?个复杂的参数集合GPT3投喂海量的学习数据ChatGPT?对结果的反馈 成为学习过程的?部分?需分类数据1200 万美? 算法数据量+既要聪明，?要努? 算法数据量+ChatGPT：每??步都观察?类反馈朝着?类期望的?向进发 脑洞思考GPT3的学习数据的学习过程ChatGPT?对结果的反馈 成为学习过程的?部分00 万美?？更遥远的未来有没有算法能突破?脑结构限制？基于?类反馈的训练?法能否拓展到更多领域？?如情感？ 投资?度应?层?：出现新的 AI+ 创业机会更好的客服机器?、机器翻译等更垂直的专业化 AI （?户反馈系统定向训练）AI 基础设施 （模型运维，管理，训练等）需要考虑：?模型开始流? （创业初始成本上升，团队融资能?）训练成本持续上升（团队商业能?） OpenAI 发展史 OpenAI 发展历史2015 年 12 ?：OpenAI 由?群包括 Elon Musk 和 Sam Altman 等个?和组织创建，旨在推进和促进??智能领域的研究。?2016 年：OpenAI 开发了第?个??智能系统，击败了职业玩家在《Dota 2》游戏中。2017 年：OpenAI 发布了 GPT-1，这是?个能够?成?类?本的语?处理模型。?2018 年：OpenAI 与 Microsoft 合作，推出了 Azure AI Platform，这是?个新的项?，旨在让开发?员更容易构建和部署 AI 应?程序。2019 年：OpenAI 发布了 GPT-2，这是?个? GPT-1 功能更强?的语?处理模型。2020 年：OpenAI 发布了 DALL-E，这是?个能够根据?本描述?成原始图像的创意 AI 系统。2021 年：OpenAI 发布了 GPT-3，这是?前为?最?最强?的语?处理模型。 OpenAI 主要?向语?处理：OpenAI 开发了?款?度先进的语?处理模型，其中包括 GPT-3，这是?前为?最?最强?的语?处理模型。这些模型能够?成?类?本，并在?