华为盘古大模型微调实践.docx

  1. 1、本文档共28页,其中可免费阅读11页,需付费169金币后方可阅读剩余内容。
  2. 2、本文档内容版权归属内容提供方,所产生的收益全部归内容提供方所有。如果您对本文有版权争议,可选择认领,认领后既往收益都归您。
  3. 3、本文档由用户上传,本站不保证质量和数量令人满意,可能有诸多瑕疵,付费之前,请仔细先通过免费阅读内容等途径辨别内容交易风险。如存在严重挂羊头卖狗肉之情形,可联系本站下载客服投诉处理。
  4. 4、文档侵权举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
华为盘古大模型微调实践

导读本次分享的主题是盘古大模型的微调实践,这里的大模型主要是指自然语言大模型。华为文本机器翻译实验室是一个既做学术创新,又做产品落地的部门,主要工作为大模型机器翻译、语音识别相关的产品落地,也曾在ACL、EMNLP等会议发表论文,并在国内外一些NLP

相关比赛中取得优异成绩。

今天的介绍会围绕以下几个方面展开:

1.什么是大模型

2.指令微调介绍

3.盘古大模型指令微调实践

4.QA

01

什么是大模型

首先来介绍一下什么是大模型,主要从四个方面来衡量。

首先是参数规模。大模型通常是指参数量在亿级到万亿级,以及更大参数规模的模型,比如GPT-3

文档评论(0)

4A方案 + 关注
实名认证
服务提供商

擅长策划,|商业地产|住房地产|暖场活动|美陈|圈层活动|嘉年华|市集|生活节|文化节|团建拓展|客户答谢会

1亿VIP精品文档

相关文档