【腾讯云】2024穿越智算奇点-解锁大模型的无限可能.pptx

穿越智算奇点解锁大模型的无限可能（本材料所有文本，插图，均由A/自动生成腾讯云秦若教2024.6

目CONTENT01大模型的基础概念02大模型的关键技术03大模型的典型应用04大模型的未来发展

他来了！他来了！他脚踏祥云走来了！01大模型的基础概念

你的新伙伴已经上线你在和一个智能系统约会，那是什么感觉？2013年电影《HER（触不到的她）》

大模型有多“大”ChatGPTGeminiDALL-E3MidjourneyANTHROPICMMetaAlstability.aiMISTRALAI_商汤日日新ChatGLM安通义大模型腾讯混元360智脑文心一言川百川智能LICHUANAI参数规模大：大于1,000,000,000,000个参数数据需求大：大于12个牛津图书馆资源消耗大：单次训练需耗费1.5亿人民币Kimi智能助手

你从哪里来？我的朋友大模型的历史脉络1950人工智能的起源1956早期的探索：人工得能概念最早可追溯到20世纪40年代和50年代1950年，阿兰图灵提出图灵测试1956年的达特茅斯会议，“人工智能被正式提出早期的AI研究集中在基于规则的系统和专家系统1990神经网络的兴起与衰退：2006机器学习的复兴：20世纪60年代至80年代，神经网络开始受到关注由于算力和数据的限制，神经网络在90年代初遭遇低谷21世纪，机器学习开始迅速发展2006年，杰册里辛额等人提出“深度学习“概念2012大模型的诞生：2017Transformer（转换器）架构的革命：2017年，谷歌提山Transformer架构2012年，AlexNet实现图像识别领域的突破、随后，大模型开始在各个领域展现出其强大的能力，Transformer渠构为后续大模型的发展提供关键支撑2022预训练模型的兴起：NOW多模态模型的探索探索将文本、图像、声音等多种模态数据融合的大模型多模态模型为创意、娱乐、教育等领域提供新的可能性GPT等预训练模型出现，在语言任务领域取得突破预训练模型通过大量文本数据训练，能够更好地理解和生成自然语言

“千万里，我追寻着你”国际大模型的创新浪潮MMetaLlama3Meta于2024年4月发布开源，应用非常广泛Midjourney专注于图像生成的AI模型艺术创作、设计领域Claude3.5Dall-E3语言模型视觉模型Anthropic于2024年6月发布多榄态能力、非英语语言处理OpenAl开发，文生图的先驱图像细节、多样性表现Claude3StableDiffusionGPT-40OpenAl的必威体育精装版多模态模型更商的参数蛋，当前最强大模型开源的文生图大模型开源、可控生成、模型多样性

中国欢迎你，为你开天辟地”：国内大模型的极速崛起01腾讯混元：多模态智能的领跑者2024年5月，发布元宝、开源中文文生阁模型应用：戏，杜交、广告等场灵04月之暗面Kimi长文理解的先驱2024年3月，放支持200万字超长文本应用：长文本理解、名能写作等件..F.I2出.Q智谱清言02阿里通义千间：电商智能的新篇章2024年6月，开源QWEN2应用：电商与营销领战的智能化05ChatGLM智谱清言：分析与编程的高手2024年6月，开源GLM-4-8B应用：f代码生成、Excal分析缩写通义千间数超分行03百度文心一言：探索知识的深海2023年10月，发布文心一言4.0应用：在线有哪些信誉好的足球投注网站，知识问答、学研究文心一WWEBotJ06百川百小应：会提的小助手·2024年5月，发布*古小应APP应用：通过主动追问，引导月户提出需求D.+i-+tY

你是电，你是光，你是唯一的神话”部分GPT-4基准测试结果HuanAvg.GPT-4100mmUSABC*UnitomEarSATAdvancedWineGrardeExaYScmmeliar(commonserse)GPT4的考试成绩远超人类均值美国生物奥林匹克竞赛：超过99%考生美国律师资格考试：超过90%考生美国高考：1410/600（写作+数学）AI生成作品在人类艺术竞赛获奖2022.10美国科罗拉多州年度艺术竞赛Midjoumey生成的作品获得蓝丝带奖

刷题不刷万亿遍哪敢自称学霸？02大模型的关键技术

学霸的书架：海量训练数据GPT4共学习13万亿token的洲练数据、类似子读完5200万本《唐持三百首》书架熟读唐诗三百首不会作诗也会大脑心脏数据采集数据清洗数据标注数据融合数据增强书桌作业本

学霸的大脑：基底大模型（FoundationModel)01基底大模型的定义：智能的基石书架通常具有数十亿其至数方亿的参数基底人模型为智能系统提供基础能力大脑心脏02 模型规模与性能：规模的力量基底大模型的性能与规模密切相关当前最大规模：GPT4，1.8万亿参数oo03模型压缩：效率与性能的平衡