大模型金融支付类企业ToC应用探索与落地.pptx

OPENAI chatGPT

WhatsAPPinstagramTikTok电话?机TwitterChatGPT2个?9个?2.5年3.5年5.5年16年75年100000000+2个??户破亿

80%到2026年，接??成式AI或?模型的企业

前期调研

确定未来AI?模型未来的前景是明确的AI必然会重构世界

确定现在要想不掉队就必须现在进?

不确定落地选择什么场景？解决什么需求？降本增效还是扩?收益？?什么技术？开源闭源？。。。。。。

找落地场景

找落地场景的思路从最熟悉的领域??让AI学习最优秀员?的能?，再让它辅助其他员?，实现降本增效“?本”进—“?本”出不要求??全，将任务拆解，先解决?任务，?场景

制定落地?案

理解?模型原理,不懂原理就不会举?反三，?不了太远?定要有实践经验，没有实践就只能纸上谈兵，做事不落地认知要?，认知不?就?法做出最优决策，天花板太低

理解?模型原理,不懂原理就不会举?反三，?不了太远?定要有实践经验，没有实践就只能纸上谈兵，做事不落地认知要?，认知不?就?法做出最优决策，天花板太低

选择模型

在线?模型模型?件、项??件、还有模型权重、等等在本地部署，因此可以更好的确保数据安全性API调?在线模型普遍性能更强，调?时技术?槛和硬件?槛更低，配套模型?态和服务更加完善，不需要维护开源?模型私有化部署

需求国外?模型国内?模型开源?模型国内2C国内2G国内2B出海数据安全

合规要求

国徽

《?成式??智能服务安全基本要求》提供者在向相关主管部?提出?成式??智能服务上线的备案申请前应按照本?件中各项要求逐条进?安全性评估，并将评估结果以及证明材料在备案时提交《?成式??智能服务管理暂?办法》已经2023年5?23?国家互联?信息办公室2023年第12次室务会会议审议通过，并经国家发展和改?委员会、教育部、科学技术部.?业和信息化部、公安部、国家?播电视总局同意，?2023年8?15?起施?《?成式??智能服务管理暂?办法》明确，提供者违反本办法规定的,由有关主管部?依照《中华??共和国?络安全法》、《中华??共和国数据安全法》、《中华??共和国个?信息保护法》、《中华??共和国科学技术进步法》等法律?政法规的规定予以处罚;法律、?政法规没有规定的,由有关主管部?依据职责予以警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停提供相关服务。构成违反治安管理?为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任

报备经验分享

应具有充分的证明材料应说明不符合的原因，采?其他技术或管理措施能达到同样安全效果的，应详细说明并提供措施有效性的证明应说明不适?理由评估结论为符合的评估结论为不符合的评估结论为不适?的

落地场景介绍

视频展示

知识库(资料库、官?、?业规范、操作?册)提取?本?本分割划分段落区块?本区块chunk?本嵌?-0.30.7 -0.1 0.4 0.3 -0.4 -0.1问题?本的嵌?向量匹配K段和问题相关知识库原?提示词Prompt(包含原?和问题)平安GPT?成答案反馈相似匹配?户输??个问题?本嵌?向量库

什么是向量化serpentinesidekicks 0.0040.0030.002——0.014TextTextasvectoranatineamigos 0.0270.0010.020——0.023TextTextasvector将?本转化为固定?度的稠密向量，实现?本在向量空司的映射Embedding的本质是??串数字代表?本，从?让计算机认识?本Embedding在?户意图认\别以及私有知识库搭建??发挥着?关重要的作?

这是?种将每个词表示为唯?的向量的?法。向量的维度等于?本中不同词的数量，对于给定的词，它在向量中的值为1，其余位置均为0。这种表示?法简单直观，但?法表示词与词之间的语义关系。独热编码（One-hotEncoding）狗猫??狗 1000猫0100?0010?0000

词嵌?模型（WordEmbedding）Word2Vec和GloVe等，它们利?深度学习?法，通过训练?规模语料库学习词的向量表示。这些模型能够捕捉词的语义和语法信息，使得语义上相似的词在向量空间中的位置相近

是将整个句?转换为?个数值向量的过程，以便计算机和机器学习模型能够理解和处理句?级别的?本信息句?向量化

?档向量化

?模型的局限RAG能提供什么为什么?RAG模型训练数据cut-off私有数据、必威体育官网网址数据、新数据更新可解释性、幻觉问题真实信息私有信息及时与动态信息

投产?