管理不可预测的风险.docx

风险管理管风理险不可预测的

风险管理

不同于以往的任何技术，生成式AI正在迅速颠覆商业和社会形态，迫使企业领导者刻不容缓地重新思考其假设、计划和战略。

为了帮助CEO们掌握快速变化的形势，IBM商业价值研究院(IBMIBV)发布了一系列有针对性、基于研究数据的生成式AI指南，涵盖数据安全、技术投资策略和客户体验等主题。

这是本指南的第十九部分，重点关注“风险管理”。

每一个拐角处都潜藏着风险

在风险管理方面，生成式AI就像一位精通制图的专家，能够迅速根据形势绘制出风险地形图。这让我们能够清楚地看到新出现的风险，从气候灾难到AI驱动的伦理困境，同时保持对传统风险的清晰把控。

生成式AI可帮助团队识别可能预示着重大问题的模式，通过模拟“假设”场景来为未知挑战做好准备，同时生成后续行动建议。鉴于这些强大的能力，55%的受访CEO认为生成式AI是一种机遇，而非风险。

但也有45%的受访CEO认为风险大于机遇。尽管生成式AI可以作为扩展风险管理能力的利器，但同时也扩大了需要管理的风险的广度和深度。作为一项颠覆性技术，生成式AI也创造了新的断层和漏洞，例如复杂的新型诈骗。

生成式AI驱动的数据分析具备大规模和速度快的特点，这往往会产生盲点，掩盖关键风险，同时引入各种新风险，例如深度伪造的图像、文档和声音。当团队需要保持高度警惕时，过度依赖生成式AI的输出可能会产生一种虚假的安全感。不准确的评估、计算资源的成本、安全漏洞的扩大以及数据的不当使用等风险都可能导致组织偏离轨道并出现违规。

CEO需要学会如何驾驭生成式AI带来的双重风险，并制定一条深思熟虑的路线图，将AI驱动的风险管理与人类判断、监督及合规性相结合。如果能够取得适当平衡，组织将能够更加快速高效地应对快速演化的威胁，从而建立更强的韧性。而如果在采用生成式AI方面过于激进或过于保守，组织可能会面临意想不到的后果或失去竞争力。

IBM商业价值研究院甄别出了每位领导者都需要了解的三个要点：

1.生

1.生一场成风式险AI风正暴在。引发

2.组织的声誉岌岌可危。

3.未来，威胁会不断加剧。

现在，每位领导者都需要采取以下三项行动：

发混乱的风险阈值。1.

发混乱的风险阈值。

1.设定激发创新而非引

2.防声誉微风杜险渐。，及时化解

3.时一刻遇的做风好险准。备，应对百年

IBMInstituteforBusinessValue 2

1.创新+生成式AI

需要了解的事项

生风成险式风暴AI正在引发一场

风险是创新的货币，但失控的风险会对企业构成生存威胁。为了实现生成式AI驱动的转型承诺，CEO必须确保新增的风险不会掩盖潜在的回报。

随着生成式AI的发展，各种新的威胁不断涌现—44%的受访CEO认为这项技术给社会带来了重大风险。57%的受访首席风险官(CRO)和受访首席财务官(CFO)表示其组织使用生成式AI将增加整体风险敞口。他们在考虑生成式AI投资时最关注的风险包括合规和监管风险(63%)、客户和员工隐私(58%)以及决策中的偏见和错误信息(56%)。超过一半的受访高管担心计算资源的成本和新型网络安全威胁。

60%的受访CEO表示正在考虑为生成式AI引入额外的护栏来控制风险。但许多企业并未落实到行动上。例如，在监管和合规风险方面，尽管63%的CRO和CFO表示关注这些风险，但只有29%的受访者表示已经有效缓解这些风险。68%的CRO和CFO表示在应对与生成式AI相关的风险方面准备不足。

技能短缺使形势变得更加复杂。70%的CRO和CFO表示，为了适应生成式AI的快速发展并不断应对新的风险，其组织需要引入当前所欠缺的专业知识。60%的CRO和CFO表示其组织目前采用的是临时性的生成式AI风险管理方法，仅适用于特定流程，或者根本不存在。

受

受9%高管表示已经

有效缓解这些风险。

但只有

监管和合规风险

6受3%高管表示关注

1.创新+生成式AI

需要采取的行动

设的定风激险发阈创值新而非引发混乱

理解生成式AI引入的全域风险及其对现有风险状况的影响，然后明确愿意承担多大的风险来推动转型。确保CRO处于黄金平衡点（既不过于激进，也不过分回避风险），并为团队配备“恰到好处”的生成式AI工具，帮助他们灵活应对最不可预测的威胁。

定义生成式AI的整体风险容忍度。与CRO合作评估组织过去管理风险的成功经验、承受损失的财务能力以及风险对运营的潜在影响。为每个类别概述可接受的、可量化的风险水平。设定风险限度。

采取正式的生成式AI