开源人工智能模型的法律治理.pdfVIP

2024年8月上海交通大学学报（哲学社会科学版）Aug.,2024

第32卷（总168期)JOURNALOFSJTU(PhilosophyandSocialSciences)Vol.32No.168

开源人工智能模型的法律治理

周辉

摘要：开源正在重塑产业格局并引领商业模式的创新，作为开源领域的新

兴力量，人工智能正依托开源的资源汇聚能力和协同优势快速发展。然而，人

工智能在开源环境下的健康有序发展仍面临诸多挑战，目前人工智能领域内

的开源问题大都集中在开源人工智能模型。因此，需要在明确开源人工智能

模型内涵和分类的基础上，审慎评估其正向价值和潜在风险。为构建科学严

谨且适应时代发展的开源人工智能模型治理制度框架，我国应借鉴各国在开

源人工智能模型治理方面的既有经验，支持开源有序发展、明确风险管理责任

与义务、推进多元主体协同发展、制定负面清单、推动形成国际开源人工智能

联盟，从而营造公正开放的开源生态，确保开源人工智能模型的发展始终沿着

安全可控、合法合规的轨道前进。

关键词：开源；人工智能；法律治理

D0l:10.13806/ki.issn1008-7095.2024.08.002

以ChatGPT为代表的生成式人工智能快速发展的过程中，围绕是否开源的问题，

形成了两种不同的发展路线。一方面，OpenAI在ChatGPT发布后选择了闭源发展路

径，另一方面是Meta开源Llama2基础模型，这推动了更多人工智能平台的开源发展。

随着开源在人工智能领域的作用日益凸显，相关基础模型能力的迅速提升，也引发了产

业和学术界关于两种路线的讨论。

这场争论的焦点在于安全性和利益的分配。有观点认为过度追求闭源可能损害创

新,不利于人工智能在全球范围内的传播。①然而，也有人担忧开源带来更多误用和恶

意利用强大人工智能系统的可能，存在生化武器、核武器新型扩散的风险。②也有组织

批评认为在缺乏防护措施的情况下公开模型是不负责任的。③

相较于闭源，人工智能开源具有广泛的优势。第一，具有开放性，有助于打破个别

作者简介：周辉，中国社会科学院文化法制研究中心研究员（北京100720）。

基金项目：中国社会科学院学科建设“登峰战略”资助计划资助（DF2023XXJC07）。

BenWodecki,“5TakeawaysfromtheUKsAISafetySummit,November3,2023,/

responsible-ai/5-takeaways-from-the-uk-s-ai-safety-summit#close-modal,March16,2024.

°VeryScary:MarkZuckerbergsPledgetoBuildAdvancedAiAlarmsExperts,January19,2024,https://

/article/very-scary-mark-zuckerbergs-pledge-to-build-advanced-ai-alarms-experts,March16,2024.

MattOBrien,“AIsFutureCouldBe‘Open-SourceorClosed.TechGiantsAreDividedasTheyLobby

Regulators,December5,2023,/article/ai-opensource-meta-ibm-chatgpt-dd6le99ac8135b

36872b3987601067ec,March16,2024.

周辉开源人工智能模型的法律治理19

国家、平台对前沿人工智能技术的垄断，填平人工智能时代的技术鸿沟。第二，具有场

景适应性，能够使得算法灵活地自由微调，通过定制适配多元场景的产品或服务，提高

人工智能技术对经济社会发展的辅助能力。第三，具有专业用户友好性，可以为专业人

士提供深度探索和高效实现专业功能的平台，助力研发创新。第四，具有