工业大模型技术应用与发展报告1.pptx

工业大模型技术应用与发展报告1.0

2023.12

编写单位（排名不分先后）

牵头编写单位：中国信息通信研究院

有限公司）

生成式AI：能够生成文本、图片、视频等内容的智能技术，

大模型为其提供了新的技术手段

早期GAN用于内容生成效果有限，如NLP逐词生成

大模型拓展了生成能力，如实现多领域多风格图像/文本生成

人工智能的几个相关概念

大模型：即基础模型，在海量数据和计算资源的基础上通过预先训练出来的，具有大参数规模的深度学习模型

狭义多指大语言模型，广义还包括CV、多模态等各种模型类型

通用人工智能：AI终极发展目标，具备认知、理解、推理、

学习、创造和社会协作等能力

大模型具备学习、生成等能力，但还缺少完备的推理、认知能力

大规模预训练模型

机器学习深度学习

GPT

生成式AI（AIGC）

技术场景

GPT：生成式预训练模型，大模型的一种类型，可生成内容

ChatGPT是GPT的一个典型产品

模型结构

细分模型

目标使命

chatGpr

人工智能

干亿参数基础模型

GPT-1:1.17亿

GPT-2:15亿

GPT-3:1750亿

GPT=4：1.48万亿......

TB级数据

超3000亿单词

830GB代码数据

1000个外包团队标注

1.1大模型成为通用AI新范式，引发工业应用变革讨论

E级智能超算总算力

超195PFlops我国最

快超算“神威·太湖之光”1.7倍

大模型+大数据+大算力成为发展主旋律(ChatGPT)

应用程序商店

引发产业领域应用的热烈讨论与憧憬

AI产品渗透速度全球排名第2

即时通讯

短视频社交

1满足大模型技术基本特征

Transformer为基础框架

在大量通用数据上进行预先训练，以实现良好的通用性

模型参数一般达十亿以上（最大模型参数已达万亿级）

2具备在工业各环节进行应用的能力，或与工业装备软件等融合赋能

1.2工业大模型与专用小模型成为工业AI发展的两条协同路径

新场景：代码生成、CAD生成等新应用…

泛化性强：单模型应对多任务，更适合长尾落地

模型更新快：参数量少，可进行快速迭代

轻量化部署：所需存储空间和算力更小

工业大模型=工业+大模型

工业专用小模型

传统模型结构

工业大模型

Transformer结构

低成本运维：低成本开发+维护

特定任务：点状场景应用效果更好

工程层面

应用层面

泛

3类主要赋能方式

基于通用底座直接赋能行业

基于通用底座进行场景化适配调优或形成外挂插件工具

面向工业或具体任务针对性开发

当前(可用于)工业领域大模型超30个

ChatGPT

PLC编程

YonGPT

星火大模型

式说大模型

…

航天、能源等行业大模型

EinsteinGPT

3D打印GPT…

AlphaFold2

ESMFold

Uni-Mol

科学大模型…

1.3大模型初步形成赋能工业的核心方式与产品形态

外挂插件工具

•工业管理软件企业Authentise推出插件，用户可查询最大的增材制造知识库

•浙大开发用于表格处理的TableGPT

成熟工业产品叠加基础模型能力

•倍福将大模型融入TwinCATXAE客户端，实现基于对话辅助编程

大模型API调用或软件方案

•基于ChatGPT直接开展智能客服等应用

用于私有化部署的一体机

•科大讯飞推出星火一体机

制造、矿山等行业大模型

4类模型产品形态

Google

OMeta

SIEMENS

生成创作规则式生成→工业代码/图文内容的”涌现式”生成

识别/模拟/局部建模预测→基于全局信息高效高精度预测优化预测

.大场景

工业场景具备一定通用性

涉及关联复杂的智能任务

数据边界对决策效果有直接影响

.大语料

工业场景的基础数据/语料/规则约束充足

.问题边界清晰

结果存在于封闭信息环境，不依赖语料外的信息

2.1大模型赋能工业领域的适用边界与核心能力

工业领域应用变革

多模态单一格式工业数据处理→多格式数据综合转换分析

适用问题：大模型并非万金油

预置型对话→与设备/工业系统的自然交互与推理

核心能力

语言理解

工业各环节围绕语言、专用、多模态和视觉四类大

模型开展探索

当前以大语言模型为主，4类模型应用占比：7