DeepSeek培训课件-DeepSeek与AI幻觉研究报告-清华大学.pptx

DeepSeek与AI幻觉

清华大学

新闻与传播学院新媒体研究中心

人工智能学院

双聘教授@新媒沈阳团队博士后张家铖

2025年2月

一、什么是AI幻觉

二、DeepSeek为什么会产生幻觉

三、AI幻觉评测

四、如何减缓AI幻觉

五、AI幻觉的创造力价值

Prompt:给我一些DeepSeek在金融行业的应用案例

DeepSeek:

·某头部银行利用DeepSeek构建因果归因网络，识别小微企业违约的隐性因素(如上下游账期错配),针对性设计“供应链票据贴现+账期保险”组合产品，不良率下降4.2个百分点。

·国信证券在“金太阳APP”中部署DeepSeek-R1-

Distill-32B端侧模型，客户本地输入风险测评数据后，模型生成个性化投资组合建议，仅将匿名化策略权

重同步至云端风控系统，数据泄露风险降低90%。

国产大模型DeepSeek成券商新宠!本地化部署加速金融科技迭代!

脑2025-02-10.0753

近日，国产大模型DeepSeek在金融业掀起了一股热潮，又有近10家券商官宣完成

DeepSeek-R1的本地化部署。至此，证券业探索DeepSeek模型应用的券商至少已有16家，DeepSeek-R1作为DeepSeek系列模型的必威体育精装版版本，正以其高性能、低成本的特性，迅速成为券商数字化转型的新宠。

多家券商快速行动，DeepSeek成金融科技新利器

此前，中奉证券就运用DeepSeek-V3模型，在金融新闻文本挖据与分析领域实现突破。

通过将金触专家规则融入提示调，模型能够自动绘制产业链图诺，清晰呈现实体之间的复杂关系网络。同时，模型还能精准判断新闻中提及实体的正负面情绪，准确牢高达90%.

案例1

今天被Deepseek耍得团团转，给我推荐了一个阿布扎比的本地市场在迪拜，道歉后，给推荐的一个特色商场根本不存在。好，给他第三次机会，推荐一个直面滨海大道与海岸线的咖啡馆，实际是这样的

收起

案例2

*

案例3

Whisper:OpenAI的自动语音识别(ASR)系统

行业应用：医疗系统中，将患者与医生的对话问诊过程音频，转写为文字病例，有超过30000名临床医生和40个医疗系统使用

发现：100多个小时的Whisper转录样本，其中约有一半内容存在幻觉

原音频：“嗯，她的父亲再婚后不久就去世了”

转录文本：“没关系。只是太敏感了，不方便透露。她确实在65岁时去世了”

结果：2.6W多份自动转录病例中，几乎每本都存在瞎编和幻觉问题，对患者健康和医疗系统产生严重负面影响

案例4

案例5

提问：糖尿病患者可以通过吃蜂蜜代替糖吗?

事实性幻觉

回答

是的，蜂蜜是天然的，可以帮助糖尿病患者稳定血糖水平。

分析

错误：蜂蜜虽然是天然食品，但仍然含有大量果糖和葡萄糖，会升高血糖水平，不适合糖尿病患者代替糖使用。

忠实性幻觉

蜂蜜富含维生素和矿物质，对提高免疫力很有帮助，因此是一种健康的食品。

偏题：回答内容虽无事实错误，但与提问糖尿病患者是否可以用蜂蜜代替糖”无关，未忠实于用户意图。

什么是AI幻觉?

学术：指模型生成与事实不符、逻辑断裂或脱离上下文的内容，本质是统计概率驱动的“合理猜测”说人话：一本正经地胡说八道

事实性幻觉：指模型生成的内容与可验证的现实世界事实不一致

忠实性幻觉：指模型生成的内容与用户的指令或上下文不一致

AI为什么会产生幻觉?

数据偏差：训练数据中的错误或片面性被模型放大(如医学领域过时论文导致错误结论)泛化困境：模型难以处理训练集外的复杂场景(如南极冰层融化对非洲农业的影响预测)

知识固化：模型过度依赖参数化记忆，缺乏动态更新能力(如2023年后的事件完全虚构)

意图误解：用户提问模糊时，模型易“自由发挥”(如“介绍深度学习”可能偏离实际需求)

ComputerScienceComputationandLanguage

[Submilledon22Jan2024]

HallucinationisInevitable:AnInnateLimitationofLargeLanguageModels

ZiweiXu,SanjayJain,MohanKankanhalli

arivoarxw²401.1817

音乐为什么没有幻觉?

音乐的主观性和多样性：音乐是一种高度主观的艺术形式，人们对音乐的审美和理解有很大的差异。一段音乐是否“合理”或“正确”,往往取决于文化背景、个人偏好和上下文

音乐的抽象性：音乐本质上是抽象的，不像文本或图像那样直接对应现实世界的具体事物。文本中的“幻觉”通常是因为