技术现象学视角下人工智能风险与治理研究.pdfVIP

理论与现代化2024年第2期

THEORYANDMODERNIZATIONNO.2,2024

技术现象学视角下人工智能风险与治理研究

董向慧

摘要：人工智能尤其是强人工智能使得人与技术之间呈现交互关系，技术现象学中具身、诠

释、它异、背景这4种人一技术一世界的意向性关系发生着变更和异化，冲击了人作为技术主

体的地位，同时蕴含着身体虚化、诠释遮蔽、他者竞争和文明失序的内在性风险。把握人一技

术一世界中的意向性关系，成为人工智能风险治理的新思路、新视角，有助于完善人工智能技

术治理、原则治理路径，促使善治良治成为机器行为学的内生品质。

关键词：人工智能；技术现象学；意向性；后人类主义

中图分类号：TP18;D63文献标识码：A

ChatGPT、文心一言等大模型人工智能（ArtificialIntelligence，简称AI)的应用推广使得

2023年成为“强人工智能”元年。大模型人工智能的智识性、对人类语言环境和背景“主体

间性”的理解，以及其集数据分析、程序写作等多重功能于一体，使得生成式人工智能、强

人工智能成为学界和业界关注焦点。强人工智能的巨大进展不由得让人们重新审视雷·库

智能与非生物智能相互融合、人类智慧飞跃发展的奇点正在临近。而SpaceX创始人埃隆·马

斯克更是将ChatCPT作为人类文明由碳基文明向硅基文明转向的起点，他认为人类社会

只是超级数字智能的生物引导程序，人类存在的意义在于启动计算机。按照上述预言，科

幻电影中的数字生命已不仅仅是虚构，而是将要到来的现实。在风险高度不确定的智能社

会来临时，人类不仅要探讨人与人之间的相互关系与如何和谐相处，更要探索人机关系的

和谐共生，从而避免现实和潜在的各种风险，这包括政治、经济、伦理、法律等风险，甚至是

科幻作品中人工智能统治人类、人工智能毁灭人类的风险。而对人工智能风险的消解、预

防和治理，从根本上依靠对人工智能这一技术深层逻辑的把握，以及对人工智能风险类型

基金项目：国家社会科学基金项目“技术现象学视角下智能算法嵌入社会与治理研究”，项目编号：

22BSH001。

作者简介：董向慧（1983一），男，天津社会科学院舆情研究所副研究员，北京师范大学新闻传播学院博

士后。

92

理论与现代化2024年第2期

THEORYANDMODERNIZATIONNO.2,2024

的有效区分。从技术现象学的视角看，人工智能使人一技术一世界中的意向关系产生了交

互性。这使直接经验、直接体验的现实世界成为虚拟与现实共生的融合世界，唐·伊德所提

出的具身、诠释、它异、背景4种意向关系产生了变更，从而产生了身体虚化、诠释遮蔽、他

者竞争、文明失序4种风险

一、人工智能的现实与潜在风险

人工智能先驱DonaldMichie将人工智能分为3类：弱人工智能、强人工智能和超人工

智能。弱人工智能(专项人工智能)指的是在某一领域模拟、代替人类智识的技术,如围棋

机器人阿尔法狗；强人工智能也称之为通用人工智能，指具有比肩人类智识水平的智能技

术，当下的聊天机器人ChatGPT已初步具备强人工智能特征；超人工智能则类似于科幻作

品中，具有超越人类智识水平和意识能力的智能技术。作为异于人类且具有智识性的技

术，人工智能自其问世起便引发公众和学界对其风险性的警惕和担忧。而伴随人工智能技

术如智能传播、算法决策、人脸识别、自动驾驶等广泛应用，人工智能的现实和潜在风险也

日益凸显。有研究将人工智能的风险归纳为10个方面：隐私泄露、劳动竞争、主体多元、边

界模糊、能力溢出、惩罚无效、伦理冲突、暴力扩张、种群替代和文明异化。上述风险部分

是人工智能的现实风险，更多的则是潜在风险。从发展阶段来看，当前广泛应用的仍是弱

人工智能技术,其现实风险已经出现。而随着ChatGPT等技术的发展，强人工智能潜在风

险的可能性将会更为突出。

（一）弱人工智能的