用人工智能展望网络未来（中文版）.docx

用人工智能展望网络未来

2024年1月

目录

执行摘要

引言

场景概述

好的方面坏的方面

建议

一般建议

政府特定建议行业特定建议

附录

好的方面”未来场景坏的方面”未来场景

第2页

第6页

第8页

第9页

第11页

第13页第14页

第15页

第21页

执行摘要

一年多以来，人工智能（AI）主导了公共话语，从非正式对话到认真考虑其造福或破坏社会的潜力。关于人工智能未来的讨论通常从杀手机器人的存在风险到气候变化的潜在解决方案。但这些威胁和好处仍然是假设的，至少在撰写本文时是这样。因此，在评估如何安全地使用人工智能时，重要的是检查机会和危险，因为它们现在存在或可能在短期内发展。

某种形式的人“工智能”并不新鲜。几十年来，计算机已经分析了数据并自动化了人工任务。改变的是这样做的成本、底层输出的质量以及如何使用它。特别是，人工智能创建内容和自动化操作的能力代表了人工智能在许多领域（包括网络安全）中使用的新前沿。

软件和数据的技术进步将对数字安全产生巨大影响。基于人工智能的工具，无论是用于自动化、认知还是生成，都可以用于好的方面，也可以用于坏的方面。例如，分析潜在入侵的网络流量的工具也可以用于使入侵更难检测。用于生成类似人类内容的工具可以很容易地用于合法和非法目的。

组织正在快速部署商业和公开可用的人工智能工具，但通常缺乏关于如何以增强而不是降低其整体安全性的方式这样做的指导。本文的目标是为这些组织（人工智能工具的最终用户）提供实际帮助。为此，AspenInstitute的网络安全计划（AspenCyber）召集了一个由行业、政府和民间社会领导人组成的工作组，就如何尽可能安全有效地使用人工智能制定具体建议。

为了制定这一指南，工作组从末尾开始：定义人工智能主要帮助防御者的“好的方面”，而不是人工智能主要协助的“坏的方面

ASPEN数字用人工智能展望网络未来。

ASPEN数字

攻击者。确定这些终点为工作组提供了两个衡量潜在行动的极点，以及组织（有时是更广泛的社会）走向好“”或坏“”未来的干预措施。简单地说，在美“好”的未来，网络防御更有效，防御者合作更有效，人工智能工具更负责任和透明。在糟“糕”的未来，网络攻击更容易发展，犯罪分子共享专有信息和数据集，当人工智能工具被滥用时，没有追索权。下一节总结了两个未来场景，附录中包含了每个场景的全文。

那么，朝着这个“好的方面”采取什么行动呢？工作组的主要建议包括：

?遵守网络安全原则。网络安全的基础知识始终适用，特别是在使用人工智能时。

?不要住在筒仓里。人工智能和网络安全从业者应该合作。

?主动管理人工智能将做出的决策。

人工智能工具将做出组织无法审查的决策，因此部署它们时要预先考虑和仔细规划；对他们能够做什么做出肯定的选

择。

?改进日志记录、日志审阅和日志维护。

人工智能驱动的攻击将越来越难以检测；保存和审查数据至关重要。

?对人工智能保持明智的透明度。组织应该考虑他们实际上希望通过人工智能透明度实现什么结果，并决定如何相应地构建披露，甚至决定披露是否必要。

?确保您的合同包含人工智能参与规则。即使一个组织不使用人工智能，其合作伙伴也可能会使用。组织应考虑将自己的人工智能政策向下传达给合作伙伴和第三方。

?当心潮流。在具有操作性或其他意义的方面安装人工智能工具-可以对人工智能说不，或者在人工智能工具没有担保的情况下使用其他技术。

ASPEN美国网络安全集团

椅子

女议员伊维特·克拉克

美国众议院联合主席

Yasmin绿

谷歌Jigsaw首席执行官

ChristopherKrebs联合主席，AspenDigital网络安全高级纽马克研究员

GarySteeleSplunk总裁兼首席执行官

员工

JohnP.Carlin战略顾问兼AspenDigital网络安全名誉主席

杰夫·格林

AspenDigital网络安全计划高级总监

YameenHuq

AspenDigital美国网络安全集团董事

成员

KatherineAdams苹果高级副总裁兼法律总顾问

玛琳·艾莉森

前CISO

莎拉·安德鲁斯

全球CISO和百事可乐高级副总裁

莫妮卡·比克特

Facebook产品政策和反恐负责人

杰夫·布朗

高级副总裁，阿