人工智能革命的前景与风险：风险管理（中文版）.docx

人工智能革命的前景和危险：风险管理

?2023伊萨卡。保留所有权利。

?2023伊萨卡。保留所有权利。

2.人工智能革命的承诺和危险：管理风险

CONTENTS

4

当企业智慧遇到人工智能时

4

人工智能的现状

6

6

7

对人工智能还是不人工智能识别人工智能的风险和回报进行人工智能效益分析

识别人工智能风险

8

社会风险

10/IP泄漏和失效10/无效所有权

对网络安全和弹性的影响

内部许可结构11/技能差距12/过度反应

预期的和意外的用途12/数据完整性

13/责任

采用持续的风险管理

14

方法

第一步：识别风险

第二步：确定风险偏好

第三步：监控和管理风险

构建人工智能安全程序：八个协议

15

和实践

虽然要信任，但要验证设计可接受的使用策略指定一个人工智能领导十四：进行成本分析

第五节：调整和创造网络安全程序

六、六强制性审计和可追溯性开发一套人工智能伦理体系

八、八对社会的适应能力

在一个由人工智能驱动的未来中繁荣昌盛

19

21

确认信息

3.人工智能革命的前景和危险：管理风险

ABSTRACT

这是许多科幻电影的前提：技术超越了人类的智力，造成了严重的破坏，并最终接管了人类。虽然这部电影还没有出现在现实生活中，但最近发行的ChatGPT感觉就像片头字幕——而这只是许多生成式人工智能（AI）工具之一。现在，苹果公司联合创始人史蒂夫·沃兹尼亚克和特斯拉首席执行官（首席执行官）埃隆·马斯克等知名科技领袖都要求公司停止“巨大的人工智能实验”1而该行业则会进行风险评估。他们的公开信称，如果没有监督和智能管理，大型人工智能项目“可能对社会和人类构成深远的风险”，并要求暂时暂停进一步发展。信中还强调了建立治理系统和一个专门用于人工智能的新监管机构的必要性。不过，其他行业领导者认为，生成式人工智能的好处和风险都被夸大了2-我们正在面对的技术有限，这些技术不如我们最大的希望那么有用，也不如我们最坏的恐惧那么强大。

但有一个结论是肯定的：人工智能已经席卷了我们的业务和我们的世界，需要首席信息安全官（CISOs）、IT风险经理、高管和IT高级管理人员来跟上快速发展的风险格局，这一点迫在眉睫。

1Futureoflife.该组织，“暂停巨型人工智能实验：一封公开信”，2023年3月22日，/open-letter/pause-giant-ai-experiments/

2Rundle，J.；“网络安全主管导航人工智能风险和潜在回报”，《华尔街日报，2023年5月25日，/文章/cybersecurity-chiefs-navigate-ai-risks-and-potential-rewards-9138b76d

?2023伊萨卡。保留所有权利。

4.人工智能革命的前景和危险：管理风险

当企业智慧遇到人工智能时

就在几个月前，很难想象来自每个行业的专业人士会转向一个应用程序来生成法律论据和建议、计算机代码、莎士比亚风格的十四行诗和临床治疗计划。然而，数以百万计的用户已经迅速适应了生成式人工智能工具的便利新世界,如OpenAI的ChatGPT3和谷歌的吟游诗人。4尽管生成式人工智能取得了巨大的成功和无数的用途，但大多数用户并不熟悉生成式人工智能的危险。因此，随着企业陷入设计和利用人工智能工具的白热化竞争，许多风险管理的努力都落后了。

建立和使用新兴技术的努力不应以牺牲风险管理为代价。不幸的是，这是大多数新技术的共同模式。那些还记得智能手机、3D打印或物联网（IoT）出现的人

可能会认为人工智能的出现与这些突破相同。但它更类似于汽车或互联网的创造：一场将吞噬每个行业的创新热潮。

建立和使用新兴技术的努力不应以牺牲风险管理为代价

。

人工智能引领了我们与技术互动方式的根本性转变。到目前为止，为我们服务的传统护栏和安全协议在一定程度上是不够的，因为生成式人工智能只是在流行和影响力上不断增长。新领域包括了新的风险，与之前技术上的巨大飞跃不同，寻找权威声音的企业却发现了如何深思熟虑地最大化人工智能价值，同时巧妙地最小化地降低风险的不确定性。

人工智能的现状

尽管人工智能能够模仿人类的思维模式和语言，但没有一种是有感知能力的。大多数通常被称为人工智能的东西实际上都是由机器学习技术或大型语言模型（llm）组成的。例如，在输入一个3000亿个单词的数据集后，5ChatGPT使用了书籍、网站、维基百科和其他来源，并使用来自人类反馈的强化学习（RLHF）进行训练，反馈改善了其反应。巴德也接受过类似的训练，但他也从互联网上获取信息。威震天，6这是微软和英伟达的合资企业，

通过新颖的“并行性”技术进行训练，并可能通