人工智能的风险与全球治理的策略.pdfVIP

近年来，人工智能技术的发展突飞猛进、日新月异。自ChatGPT问世以来，各

种大模型层出不穷，其能力也在不断增强。在中国，这一领域更是上演了所谓的

“百模大战”，反映出对技术创新与突破的强烈诉求。

尽管如此，对于人工智能巨大潜力的评估和预测始终伴随着对其潜在风险的担

忧。这些风险不仅涉及技术层面，还广泛触及伦理安全、国家治理以及社会应用等

多个方面。因此，如何有效地进行人工智能的风险管理，成为伴随其发展的不容忽

视的重要议题。

人工智能系统的主要风险

人工智能系统蕴含的主要风险可被归纳为四个主要层面。

其一，与人工智能系统本身相关的风险。首先是安全漏洞问题，人工智能系统

的复杂性和广泛应用，使其易于受到攻击。例如，机器学习模型可能受到数据病毒

攻击，从而影响其决策能力。

其次是人工智能模型的不透明性问题，许多深度学习模型如同“黑箱”，人们

难以解释其决策过程，这可能导致无法充分理解系统作出决策的原因，尤其是在医

疗或法律等关键领域。

此外，还存在人工智能系统的失控问题。随着通用人工智能实现的可能性越来

越大，人们愈发担心人工智能系统的自主性过强，从而带来其超出人类控制的风

险。

其二，人工智能系统在开发与应用中存在违反社会伦理道德标准的风险。首

先，其存在侵犯个人隐私的风险。人工智能技术，如面部识别和行为分析算法技术

等，如果未经严格监管，可能会被用于企业对员工不合理的监控。又如，人工智能

系统通常需要收集和处理大量个人数据，如果这些数据的采集和使用未遵循隐私保

护标准，就可能导致数据泄露或滥用，侵犯个人隐私权。

其次是算法偏见问题。人工智能系统训练数据中存在的偏见可能带来不公正的

决策和歧视性结果。比如，面试筛选系统可能因偏见数据而对某一特定种族或性别

的候选人产生歧视。

再次是责任和问责不清问题。当人工智能系统的决策产生负面后果时，确定谁

应该为这些决策负责是一个难题，开发人员、操作人员或使用者之间的责任归属常

常含糊不清。

与此同时，深度学习模型的不透明性使得系统的决策过程在伦理审查中难以理

解和评估，尤其当AI用于医疗、金融或执法等领域时，这种不透明性可能伴生严重

的伦理问题。

最后，还存在涉及道德边界的跨越问题。人工智能系统有可能被应用于影响人

类生存、健康等基本权利的领域（如自动驾驶汽车和医疗诊断），如果人工智能系

统发生故障或错误，可能会引发深远的伦理争议。

其三，人工智能系统存在被误用、滥用或恶用的风险。一是人工智能系统可能

被用于深度伪造和信息操控。人工智能技术可以生成逼真的视频和音频，如深度伪

造技术，这些技术可能被用于制造假新闻或虚假信息，误导公众舆论，进而威胁公

共管理和社会稳定。

二是人工智能系统可能被用于操控行为。利用人工智能的行为分析和个性化推

荐技术，公司或组织能够设计出极具针对性的广告或信息流，可以影响甚至操控用

户行为和决策，削弱个体自主权。

更为极端的是，人工智能系统可能存在被恐怖组织恶用的风险。如果无人驾驶

技术与人工智能技术结合起来，可能被非法组织用于实施复杂且难以预防的袭击。

例如，恐怖组织可能利用人工智能系统用来增强其作战和宣传能力，使用无人机进

行攻击或利用自动化工具传播极端主义内容。

其四，人工智能系统存在被用于威胁国家政治和军事安全的活动的风险。一是

考虑到信息战的存在与虚假信息的传播，人工智能系统已构成威胁国家政治安全的

一大风险。例如，人工智能技术可以生成高度逼真的虚假内容（如深度伪造视频和

图像），这些虚假信息可能被用于传播不实消息、煽动公众情绪和扰乱社会稳定。

又如，人工智能技术可被用于分析和预测选民行为，为设计精准的政治宣传和操控

手段提供便利。

二是在网络等基础设施安全方面，人工智能技术可被用于增强网络攻击的复杂

性和自动化程度，使得攻击更难检测和防御。这些攻击可能针对关键基础设施，如

电网系统、交通系统和政府数据库，对国家安全构成严重威胁。

三是在军事方面，人工智能技术可被用来开发自主武器系统。此类系统甚至可

能在无人工干预的情况下作出生死决策，增加了误判、冲突升级和不必要暴力行为

的风险。

四是人工智能技术可能导致军备竞赛与地缘政治紧张