面向未来的前沿AI监管.docx

VCNAS

2024年3月

面向未来的前沿AI监管

为前沿AI模型预测未来计算

PaulScharre

关于作者

PaulScharre是新美国安全中心（CNAS）的执行副总裁兼研究主任。他是《四个战场：人工智能时代的力量》一书的获奖作者。

他的第一本书《无军：自主武器和战争的未来》获得了

2019年科尔比奖，被评为比尔·盖茨2018年的前五本书之一，并被《

经济学人》评为了解现代战争的前五本书之一。

在布什和奥巴马政府的国防部长办公室，他在制定无人驾驶和自主系统以及新兴武器技术的政策方面发挥了领导作用。他领导了

国防部（DoD）工作组起草了DoD指令3000.09，建立了该部门关于武器系统自主性的政策。他拥有伦敦大学国王学院的战争研究博士学位，政治经济学和公共政策硕士学位，以及圣华盛顿大学的物理学学士学位。路易斯在国防部长办公室工作之前，沙雷曾在陆军第3游骑兵营担任步兵，狙击手和侦察队队长，并完成了多项任务。

在伊拉克和阿富汗旅行。他毕业于陆军空降兵，游骑兵和狙击手学校，并且

是第75游骑兵团游骑兵灌输计划的荣誉毕业生。

关于技术与国家安全计划

CNAS技术与国家安全计划探讨了与新兴技术相关的政策挑战。该计划的重点是将技术和政策社区聚集在一起，以更好地了解这些挑战

开发解决方案。

关于人工智能安全与稳定项目

CNASAI安全与稳定项目是一项为期多年、多项目的工作，旨在解决与人工智能相关的既定和新出现的风险。这项工作的重点是预测和减轻灾难性的人工智能故障，改善美国S.国防部的人工智能测试和评估流程，了解和塑造计算治理的机会，以及了解中国和俄罗斯在人工智能和稳定性方面的决策。

Acknowledgments

我对Epoch的研究人员表示感谢，这份报告依靠他们的分析。他们的

人工智能趋势的研究是理解人工智能革命的宝贵资源，我希望这份报告有助于进一步向政策制定者展示他们的见解。这份报告建立在我所感激的众多学者的先前研究和分析的基础上，包括DarioAmodei、Markus

Anderljung、TamayBesiroglu、TomB.Brown、RyanCarey、

AjeyaCotra、BenCottier、EgeErdi

Heim,DayHeradez,AsoHo,MarisHobbhah,SaifM.Kha,AdrewJ.Loh，AlexaderMa，MicahMsser，JaimeSevilla和Pablo

Villalobos。我特别感谢MarsAderljg，TamayBesirogl，BeCottier，LeartHeim和JaimeSevilla对本报告早期草案的宝贵意见。CNAS研究助理MichaelDepp提供了有价值的背景研究，反馈，编辑和引用协助。

和参考书目。感谢CNAS同事MauraMcCarthy、MelodyCook、Rin

Rothback和AnnaPederson在本报告的审查、制作和设计中的角色。任何错误都是作者的责任。在OpenPhilanthropy的慷慨支持下，本报告得以实现

。

作为一家致力于组织，知识和个人诚信的最高标准的研究和政策机构，CNAS保持严格的知识独立性和对其思想，项目，出版物，活动和其他研究活动的唯一编辑指导和控制。CNAS在政策问题上不采取机构立场，CNAS出版物的内容仅反映其作者的观点。根据其使命和价值观，CNAS不参与游说活动，并完全遵守所有适用的联邦、州和地方法律。CNAS不会代表任何实体或利益参与任何代表活动或宣传，并

该中心在接受非美国来源资助的范围内，其活动将仅限于与适用的联邦法律相一致的真正的学术，学术和研究相关活动。该中心每年在其网站上公开承认所有捐款的捐助者。

TABLEOFCONTENTS

01执行摘要

03Introduction

第一部分：背景

06

07

08

09

12

成本和对AI模型的访问对政策制定者的影响

了解成本和计算增长

相关工作

当前最佳估计和假设

第二部分：分析

17

21

23

27

28

32

成本和计算预测成本增长限制

硬件改进的限制增殖

硬件受限演员的成本计算监管阈值

35Conclusion

36附录

44精选参考书目

技术与国家安全|2024年3月

面向未来的前沿AI监管：预测前沿