ChatGPT潜在数据保护风险分析及建议（企业应用篇）.docx

ChatGPT潜在数据保护风险分析及建议（企业应用篇）

ChatGPT等大语言模型的快速发展为企业带来了巨大机遇，从某种意义上宣告了人工智能时代的正式到来。“AI不会让你失业，会用AI的人会让你失业”，近日有报道称三星在引入ChatGPT后芯片机密代码遭泄露，对企业来讲，使用AI也许会带来一定的风险，但是不使用AI可能是一项生存风险。如何正确使用人工智能工具，建立透明、安全的管理方法，让人工智能工具服务于企业的发展，是企业在未来社会生存的必由之路。

一、典型应用场景

在中国语境下，ChatGPT等人工智能算法属于《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》中规定的“算法推荐技术”“深度合成技术”，这类技术将深刻的改变未来企业的运营模式。

下面选取几类常见的企业应用场景，说明在使用ChatGPT类人工智能工具过程中应关注的数据保护风险及合规建议。

【典型场景一：辅助办公】人工智能辅助办公的模式主要体现在办公产品接入或者办公内容辅助生成，例如回复邮件、帮写代码、内容和图形设计、写周报、撰写报告、绘制PPT、市场营销规划、翻译等形形色色的服务。

【典型场景二：产品接入】企业可能通过API接口的方式将ChatGPT服务引入到自己的应用软件或网页中，或者基于ChatGPT开放的API接口进行产品的二次开发，例如智慧家庭、教育培训软件、法律咨询服务等。

【典型场景三：智能营销】利用深度学习和大型神经网络语言模型，AI可以自动分析客户的行为和偏好，提供相应的产品和服务推荐。例如，当客户在网站上浏览产品或服务时，AI可以通过浏览记录分析客户偏好，并通过与客户的互动更加精确了解客户需求，向客户推送符合其需求的产品或服务，从而提高客户的购买意愿。

【典型场景四：智能客服】智能客服的主要应用场景是客服机器人，并且在许多企业已经有相当成熟的案例，但当前智能客服的服务场景还相对单一，客户体验还有待提升，随着ChatGPT等人工智能产品的升级迭代，智能客服领域的应用将日益丰富，可能带来与人工客服无差异的服务，甚至可避免客服人员素质引起的服务差异。

二、潜在合规风险

1.数据泄露风险：员工向ChatGPT提问时分享的隐私和个人信息、商业秘密等数据可能被用于ChatGPT模型的迭代训练。如果员工在使用ChatGPT生成代码和工作文档时输入公司内部信息，尤其是大量结构化信息输入，例如代码、报告素材或批量文档翻译时，其输入的信息很可能被用作ChatGPT迭代的训练数据，从而泄露商业机密及公司掌握的个人信息及重要数据。

2.自动化决策风险：企业如果在员工休假、福利等咨询及审批，薪酬体系构建和优化，以及协助IT部门解决技术问题等方面使用ChatGPT服务，会帮助企业提升管理效率，但是如果仅仅依赖人工智能的评估即确定影响员工的结果，可能造成自动化决策的风险。《个人信息保护法》第二十四条规定“通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。”

3.数据跨境风险：虽然目前OpenAI的API未向中国开放，但技术的革命一定会普及全球。企业未来在接入ChatGPT类人工智能服务时，可能涉及向境外公司共享数据，举例来说，根据OpenAI的隐私政策，ChatGPT收集的数据包括用户账户信息、输入或上传的内容、通信信息、日志数据、使用数据、设备信息等，如果社交媒体上搭载了ChatGPT功能，还会收集社交媒体信息。OpenAI的使用条款规定，当用户使用其API时，OpenAI将拥有用户输入和输出内容的广泛使用权，以便将其纳入训练数据库并用于改善ChatGPT。根据《数据出境安全评估办法》，满足一定条件的数据处理者需要通过签订标准合同的方式或通过申报数据出境安全评估的方式履行数据出境合规义务。

4.产品自身缺陷带来的法律风险：ChatGPT产品也在不断迭代成熟过程中，问题在不断暴露，自发布以来已遭受多起数据泄露的指控并可能遭到多国政府禁用。其可能存在的个人信息处理不当、数据处理透明性不足、数据安全保障措施不足、数据主体权利响应困难等问题可能影响使用ChatGPT产品的企业，造成合规义务履行不能的风险。

三、企业合规建议

1.建立完善的审批流程及准入机制

企业可建立接入人工智能产品的审批流程，以确保在合适及必要的前提下接入人工智能产品；

使用人工智能产品处理个人信息时应实施个人信息保护影响评估；

原则上禁止使用人工智能产品处理重要数据；

必要情况下使用人工智能产品应将输入数据脱敏。

2.考虑人工智能接入产品的隐私保护设计

引入人工智能产品时应设置显著的隐私政策提示，说明使用的技术和软件，提醒用户已跳转至第三方应用或使用第三方应用API接口，数据可能将共享至相关