风险社会视阈下人工智能犯罪的刑法应对.pdf

风险社会视阈下人工智能犯罪的

刑法应对*

叶良芳马路瑶

提要：作为智慧社会的核心技术，人工智能所潜隐的风险具有人为性和不确定性。这属于

风险社会的“风险”的本质特征，因而刑法对人工智能的风险的应对具有合理性和必要性。人工

智能不具备独立于人类的权利和价值，在善恶观和伦理观上不具备与人类相当的认知水平，将

人工智能拟制为犯罪主体的设想不具有合理性，且将加剧“有组织的不负责任”。在人工智能犯

罪的刑事责任问题上，应以防控风险为出发点，兼顾保障创新，在人工智能产品的设计和创造者

以及使用者之间进行合理的责任分配。

关键词：人工智能风险社会犯罪主体刑事责任

当前，人工智能正以其强劲的技术力量，推动社会形态和社会结构发生重大变革。2017年7月，

国务院制定了《新一代人工智能发展规划》，对我国人工智能的发展进行全方位谋篇布局。2017年1O

月，党的十九大明确提出把建设智慧社会作为加快建设创新型国家的重要内容。新型社会形态需要

与其相匹配的法律制度，智慧社会已初具雏形，但与其相对应的法律制度却尚未建立，由此导致社会

治理的罅漏和迟滞。特别是，对于对人类社会安全存在潜在威胁的人工智能的“失控”行为，更需要制

定现实性和前瞻性兼具的刑事治理对策。事实上，人工智能的出现和发展，正是社会学家乌尔里希·

贝克所描绘的风险社会的一个缩影。因此，本文拟从风险社会理论的视角出发，剖析对人工智能犯罪

追究刑事责任的困境，探究刑法应对人工智能挑战人类生存安全问题的应然路径。

一、人工智能风险刑法应对的合理性

人工智能，是通过计算机语言编写的方式对特定对象的需求信息、数据结构、运行指令等进行处

理，进而实现目标对象模仿人类做出类人反应的一种技术方法。人工智能的本质特征，在于能够在深

度学习的前提下自主地进行分析、判断和决策。与前人工智能时代的产品相比，人工智能虽然亦以为

*基金项目：浙江大学“人工智能与法学专项课题”、国家社科基金重点项目“风险社会视阈下刑事立法科学性研究”

(16AFX009)的阶段性成果。

一65—

浙江学刊2018年第6期

人类的生产生活提供便捷帮助为出发点，但却因其深度学习和以之为基础的自主决策的存在，导致其

设计和制造者以及使用者对其最终将作出何种行为难以做到充分的认知和绝对的控制。就此而言，

人工智能与前人工智能时代的产品有着本质区别。根据乌尔里希·贝克、安东尼·吉登斯等社会学

家提出的风险社会理论，不难发现，人工智能所隐含的风险其实是风险社会中新型风险的一个重要表

现形式，因而可以适用刑法对风险社会风险的应对策略。

一方面，人工智能作为一种新技术，其研究和开发均建立在人类决策基础之上，符合风险社会之

“风险”的人为性特征。关于风险与决策之问的关系问题，贝克曾指出：“风险总是依赖决策——就是

说，它们以决策为前提。它们产生于从不确定性和危险向决策的转变之中(并推动着决策的制定，这

反过来又制造了风险)。”①对于人工智能特别是强人工智能(这种人工智能具有在深度学习后独立而

不受原始算法编写者控制地作出判断和决策的能力)而言，尽管直接作用于客观世界的行为并非人类

直接作出，也非直接按照人类特定的指令作出，但这却不能否定人类决策对人工智能的行为具有根本

性和决定性的影响。人工智能据以深度学习的原始算法由人类输入，作为其深度学习内容的数据库

由人类提供，因此，尽管人工智能后续中可能习得新的算法，数据库也会动态地发生变化，但是人类却

可以在源头上控制其风险的发生。传统刑法以人的行为为规制对象，这同样适用于对人工智能行为

的控制。因为人工智能的风险是否发生，可以通过人的行为进行控制。换言之，由人工智能潜在风险

导致的实害结果能否发生，人的行为具有压倒性、绝对性的影响。所以从调整对象的角度来看，刑法

对人工智能的犯罪风险进行防控具有合理性。

另一方面，人工智能经过深度学习后的潜在风险具有不确定性，是否具有导致实害结果的高度可

能性、实害结果有何种程度的严重性等均难以为人类所准确认知。人工智