新兴技术和风险分析：人工智能与关键基础设施2024.docx

HSAC国土安全部作战分析中心

HSAC

国土安全部作战分析中心

研究报告

RAND根据与DHS的合同经营的FFRDC

DanielM.Gerstein,ErinN.Leidy

新兴技术

和风险分析

人工智能与关键基础设施

美国国家标准与技术研究所（NIST）的计算机安全资源中心将人工智能定义为“计算机的一个分支”

致力于开发数据处理系统的科学，该系统执行通常与人类智能相关的功能，如推理、学习和自我完善。“1然而，不存在单一的权威人工智能分类法，因为来自几个领域的关键技术都为人工智能技术开发了特定的分类法。例如，在“智能城市采用人工智能：综合评论”中，作者确定了六个关键的人工智能

智能城市中使用的技术：机器学习（包括深度学习和预测分析）、自然语言处理（NLP）（包括翻译、信息提取和分类以及聚类）、计算机语音（包括语音到文本和文本到语音）、计算机视觉（包括图像识别和机器视觉）、专家系统和机器人。2该列表类似于为人工智能融入的其他应用开发的列表，但专为智能城市量身定制，适用于人工智能支持的关键基础设施。

在更精细的层面上，支持人工智能技术发展的工具包括大型语言模型（LLMs）、神经网络、监督和非监督训练以及计算语言学。其他使能和融合技术，如网络、大数据和物联网（IoT），也与人工智能研发密不可分（RD）。这些列表以及与人工智能直接相关并支持人工智能的组件可能会随着用例的不断确定、人工智能技术的不断发展以及可操作的人工智能系统的部署而扩展。

在这份报告中，我们引用了关于智能城市的文献。因此，我们认为城市关键基础设施的早期人工智能嵌入能力是开发

智慧城市。这一假设的内在含义是，这些基础设施组成部分对于社会的安全和有效运转、人口的安全和经济的运转至关重要。在做出这一假设时，我们将重点放在关键的基础设施上，因为专门建造的智能城市不太可能在本报告的时间范围内（即十年）普及。在编写本报告时，我们认识到人工智能有许多用途，而

22\\新兴技术与风险分析：无人机系统智能群技术

主要调查结果

主要调查结果

.人工智能（AI）是一项变革性技术，可能会像互联网一样广泛融入整个社会，包括关键基础设

施。我们评估，人工智能可能会受到许多与其他信息时代技术相同的因素的影响，如网络安全、保护知识产权、确保关键数据保护以及保护专有方法和流程。

.人工智能领域包含许多技术，当它们变得可用

时，将被整合到人工智能系统中。因此，人工智能科学和技术的成熟度将基于几个关键技术领域的关键依赖，包括高性能计算、先进半导体开发和制造、机器人、机器学习、自然语言处理以及积累和保护关键数据的能力。

.为了将人工智能置于其当前的成熟状态，有必要描述三个人工智能类别：人工智能狭义智能（ANI）、人工智能通用智能（AGI）和人工智能超级智能（ASI）。到这项分析的十年期结束时，这项技术很可能仍然只实现了ANI。

.人工智能将为关键基础设施和最终开发专门建造的智能城市带来机遇和挑战。开发和监控系统将受益于人工智能设计的使用，这些设计可以提高现场意识并减少漏洞。然而，威胁参与者将发现攻击面增加，特别是嵌入关键基础设施部门和系统的物联网应用。

.2023年3月ChatGPT-4的推出提供了一个有趣的案例研究，说明这些人工智能技术——在这种情况下，是大型语言模型——可能如何成熟并融入社会。最初的首次展示强调了

存在准确性和一致性问题，迫使开发人员快速做出更改来响应这些问题。这个周期——开发、部署、识别缺点和其他潜在用途领域，以及人工智能系统的快速更新——可能会成为人工智能的一个特征。

我们的评估仅适用于十年时间范围内的关键基础设施和智能城市。

智慧城市的例子提供了一个路线图，说明人工智能应用程序可能如何融入教育等领域；医疗保健；能量；环境、废物和危险管理；农业和灌溉；隐私和安全；流动性和运输性；以及本地化的灾难和风险管理。3这份技术和应用列表表明了人工智能可能在所有领域普及的程度。通过比较，我们评估人工智能将变得像互联网、移动蜂窝设备和GPS技术一样无处不在。这种普遍性将为人工智能的使用带来机遇和挑战。人工智能已经在许多关键的基础设施领域提高了生产率和效率。更广泛地说，人工智能可以提供探索和分析大型数据集的能力，以加深对自然世界的理解，允许全球范围内的互动，并通过个性化医疗的承诺增强人类体验。

然而，许多人也对人工智能提出了警告，重点是人类被人工智能系统取代的灾难性场景。在这种情况下，人类变得屈从于他们创造的机器，或者人工智能系统的价值观和目标与人类的价值观和目标相反。随