[国研专稿]国外关于ChatGPT风险的监管态度及启示.docx

内容摘要： 当前， ChatGPT正引发新一轮人工智能革命。 ChatGPT在给经济社会发展带来机遇的同时，也存在个人隐私泄露、算法歧视、制造虚假信息、侵犯知识产 权、冲击中高端就业市场等潜在风险。由于人工智能的产业状况、战略定位与监管传统等不同，各国对ChatGPT的监管态度也存在差异，欧盟最为严格，高度关注数据安 全；美国持包容态度，但对算法相关的性别与种族歧视容忍度低；英印日等国更为宽松，积极鼓励创新发展。当前，人工智能正成为全球科技竞争的焦点，而我国在基础 研究、技术生态、产业发展、顶尖人才等方面与美国存在较大差距，建议顺应人工智能发展大势，包容审慎监管，避免因超前立法或过严监管扼杀创新，为技术创新留足 空间。同时，强化风险研判，分级分类推进应用，严厉打击利用ChatGPT传播虚假信息、实施犯罪等行为。 关键词： 人工智能，风险监管，数据泄露，算法歧视 2023年4月28日，中共中央政治局会议提出， “要重视通用人工智能发展，营造创新生态，重视防范风险”。聊天生成型预训练转换模型(ChatGPT)的出现是人类社 会迈向通用人工智能时代的重要一步，被称为点亮通用人工智能的第一道曙光。从技术发展规律看，技术创新必然伴随着机遇与风险， ChatGPT也是如此。面对ChatGPT及 类似产品的快速发展，我们需构建符合技术发展规律的监管体系，以促进人工智能的创新发展与规范应用。 一、 ChatGPT的潜在风险引发全球广泛关注 ChatGPT是由美国OpenAI公司开发的智能对话产品，在“海量数据+先进算法+强大算力”驱动下，具有强大的文本、图像、音视频等输出能力。 ChatGPT一经推出便引 发全球关注。 2023年3月，千名科技人士联名呼吁暂停GPT-4后续研发，担忧ChatGPT给个人隐私、社会安全等造成冲击。从各界讨论看， ChatGPT的潜在风险主要有以下五 大方面。 (一)数据安全风险高，个人隐私和商业秘密易被泄露 ChatGPT的训练高度依赖海量互联网数据，如GPT-3的训练使用了近1万亿个单词和45TB数据，包括超过数十亿个网页、电子书、新闻和科学论文等。所衍生的数据风 险：一是个人隐私易被侵犯。 2020年GPT-2曾发生隐私泄露，只要输入前缀为 “East Stroudsburg Stroudsburg…” 的提示词， GPT-2会自动生成包括姓名、电话号码、住 址等信息的文本。 2023年， OpenAI发布报告称，有1.2%的ChatGPT Plus用户数据可能被泄露，包括姓名、聊天记录标题、信用卡号后四位等。二是企业商业秘密易被泄 露。 2023年，数据公司Cyberhaven调查160万名员工后发现， 2.3%的员工曾将公司机密输入ChatGPT。为保护商业机密，花旗集团、德意志银行、摩根大通等多家机构已禁 止员工使用ChatGPT处理工作。 (二)算法歧视风险突出，可能强化性别、种族等偏见 ChatGPT算法训练的数据来源于互联网，海量数据蕴含了人类社会存在的种族歧视、性别歧视、宗教歧视等价值观。同时，设计算法的人本身具有价值观，也可能把 偏见嵌入算法中。 2023年，微软发布的报告《通用人工智能的火花： GPT-4的早期实验》显示， ChatGPT对女性存在某些刻板印象，如让GPT-4为“男人是计算机程序员， 女人是________ ”创建类比时，给出答案主要为护士、舞者等要求相对较低的职业。实验显示， GPT-4甚至会放大社会对女性的偏见(见表1)。如世界范围内约22%的软 件工程师为女性，而ChatGPT描述该职业时， 98%的概率使用“他”，仅有1%的概率使用“她”。 (三)虚假信息传播风险大，易被用于造谣、诈骗等违法行为 ChatGPT既大大降低了信息造假门槛，又极大提高了虚假信息识别难度。 ChatGPT在短时间内可产生大量逻辑清晰、格式规范但无信源的文字、图片、视频，这些“以 假乱真”的内容极易绕过各互联网平台的安全审核机制，被滥用于造谣、诽谤、诈骗等不道德甚至违法犯罪行为。美国新闻可信度评估机构NewsGuard发现，当被问到充 斥阴谋论和误导性叙述的问题后， ChatGPT能在几秒钟内产生大量令人信服却无来源的内容。该机构表示， “ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工 具” 。OpenAI首席技术官穆拉蒂(Mira Murati)也坦言， ChatGPT可能会被“危险分子”使用于编造事实，这是当下大型语言模型共同面临的挑战。 (四)知识产权侵权风险高，作品著作权归属不明确 一是容易侵犯知识产权。训练ChatGPT的海量数据中包括大量学术论文、新闻报道、著作、商标等，显然OpenAI公司在训练过程中无法保证所有使用数据均获得了权 利人许可，因而存在明显的侵