AI大模型落地的前景和痛点，兼谈工程师架构师所面临的机会和挑战-2024.08-43正式版.doc

ArchSummit全球架构师峰会

AI大模型落地的前景和痛点

兼谈工程师、架构师所面临的机会和挑战

深圳2023｜07｜21

李维NLP科学家出门问问VP

自我介绍一下

“

李维

NLP老司机、劳碌命，前讯飞AI研究院副院长，出门问

问VP。Netbase前首席科学家10年，指挥研发18种语言

的社会媒体舆情系统，成为美国NLP产业应用的经典成

功案例。Cymfony前研发副总，获第一届问答系统第一

名，赢得17个SBIR小企业创新研究项目

Outline

大模型风暴01

大模型之炼02

03

大模型与AIGC

人类语言通天塔的建成

巴别塔建成日：公元2022年11月30日

为什么说建成了人类语言的通天塔？

比native还native

理解能力

输入

能听

LLM“劳碌命”

输出

会说

生成能力

极其简单的原理

自学习、预训练、生成式AI

ThebestthingaboutAIisitsabilityto

（自回归GPT系列）

ThebestthingaboutAIisitsabilitytounderstand

ThebestthingaboutAIisitsabilitytounderstandworlds

ThebestthingaboutAIisitsabilitytounderstandworldsthat“大号”的N-gram模型

ThebestthingaboutAIisitsabilitytounderstandworldsthatare

ThebestthingaboutAIisitsabilitytounderstandworldsthatare

both

ThebestthingaboutAIisitsabilitytounderstandworldsthatare

bothexciting

…………

给定上文，预测下一词：nexttokenprediction

大力出奇迹——千（万）亿级字词/千亿级参数

Raw

文字序列LLM

多维向量

corpora

自学习生成式AI

（自回归GPT系列）

LLM任务开放

Waymore

Open-ended

借用陆奇：WeAreHere

CF:Web-1age

人工智能当代简史

11年前的第一次AI深度神经革命，聚焦感知，靠的是带标大数据有监督训练。

5年多前的二次AI深度革命，NLP大模型（LLM）为旗帜，AI从感知到认知

，靠的是自监督预训练。

半年前通天塔的三次AI革命，搞定了自然语言交互，以ChatGPT为里程碑。

ChatGPT：几乎完美的人机自然语言接口

Few

Shots

Zeroshot

Zeroshot/零样本：不依赖标注大数据，克服知识瓶颈

机器迁就人，而不是人迁就机器

海量样本标注少样本标零样本标注

ChatGPT能力测试

人类知识

客户调查

部分人类知识

用户粘性、增长性

LLM

语言知识

利用已有测试：

NLP测试集，高考，各资格考试

Zeroshot开放类任务理论上没有

测试集，无法定量数据质量（QA

）

机器迁就人的结果：人皆码师

码农贵族、产品经理/CXO、数据分析员、用户群体：

底线拉平，LLM听得懂所有人的指示

为“万众创业”创造了条件

NLP“核爆炸”及其影响

新突破导向新生态

ChatGPT建成语言通天塔GPT洗礼后的新生态建设

??

语言大模型搞定人类语言标志感知智能走向认知智能：语言+知识

??

机器迁就人，而不是人迁就机器LLMCoPilot落地，AIGC前景广阔

??

实体交互方式的革命：不仅仅是人机用户接口：交互克服人工智障

??

语言模型蕴含了知识模型，虽然并不完备LLMAgent研究值得关注

大模型时代的挑战

模型痛点、领域挑战

??

幻觉问题谁调用谁：插件与外挂

??

稳定性问题领域数据库、业务逻辑、私有数据

??

知识欠缺问题自主AI研究：Agent

??

多模态问题与现有领域Legacy系统的关系

大模型时代的焦虑

架构师/工程师焦虑：youarenotalone！

??

一夜醒来，专业没了工作被取代？

??

有说：半年前的专业经验是负资产艺术被颠覆？

??

AI系统的涌现，资源的爆发知识更新跑不赢知识增长

?

百花齐放，AI日新月异

“幻觉”：是LLM内在feature不是bug

幻觉与想象力是同义词

?

?

“一正胡八”：说谎不“脸红”，真假莫辨，极度误导没有“幻觉”，如何讲“故