(1.1)--为什么人工智能必将威胁我们的文明.pdf

为什么人工智能必将威胁我们的文明？丨江晓原

为什么人工智能必将威胁我们的文明？

对于人工智能，我们必须认识到，它跟以往我们讨论的所有科学技术都不一样。

现在人类玩的最危险的两把火，一把是生物技术，一把就是人工智能——生物

技术带来很多伦理问题，但是那把火的危险性还没有人工智能大，人工智能这把

火现在最危险。最近一些商业公司，通过“人机大战”之类的商业炒作，一方面

加剧了这种危险，但另一方面也激发了公众对人工智能前景的新一轮关注，这倒

未尝没有好处。

我们可以把人工智能的威胁分成三个层次来看：近期的、中期的、远期的——

也就是终极威胁。

人工智能的近期威胁，有些现在已经出现在我们面前了。近期威胁基本上有两条：

第一条，它正在让很多蓝领工人和下层白领失去工作岗位。现在较低层次的人工

智能已经在很多工厂里被大量采用。有些人士安慰人们说，以前各种各样新的技

术被发明时，也曾经让一些工人失去岗位，后来他们不都找到新的岗位了吗？但

是我认为人工智能不一样。媒体曾放过这样的消息，包括人工智能的从业者自己

也都在欢欣鼓舞地展望，说人类现在绝大部分的工作岗位，人工智能都是可以替

代的。果真如此，显然这个社会将会变成绝大部分人都没有工作的状态。对于这

样的社会，人类目前没有准备好。今天如果有少数人没有工作，多数人有工作，

多数人养着少数人问题不大，这样的社会是我们现有的社会制度和伦理道德结构

能够承受的。但是如果颠倒过来，这个社会中有相当大的比例——且不说超过

50%，按照那些对人工智能的展望，将来90%以上的工作岗位都会被人工智能取

代。比如说人们想听一场报告，找个人工智能来做就可以了，说不定比现在的听

起来还要来劲。

当这个社会大部分人都没有工作的时候，社会会变得非常不稳定。那么多没有工

作的人，他们可以用无限的时间来积累不满，酝酿革命，于是就会危及社会稳定。

无论东方还是西方，无论什么意识形态的社会制度，在这个形势面前都将黯然失

色。所以说人类还没有准备好。

顺便再展望一下，既然90%以上的工作岗位都可以由人工智能来取代，那么“革

命战士”这种工作岗位能不能由人工智能来取代？革命能不能由人工智能来发起

和进行？当然也可能。但是想想看，这样的革命会带来什么呢？很简单，那就是

科幻影片《黑客帝国》和《未来战士》中的世界——人类被人工智能征服、统

治、压迫。

这是人工智能近期的第一个威胁，现在在很多工厂已经出现了。对工厂来说，这

个级别的人工智能是很容易实现的。那些工厂的管理者说，我们换一个机器人上

来，它的成本只不过是三个工人一年的工资，但是它们管理起来太容易了。管理

工人很难，你让他加班他不愿意，加得多了他可能跳楼自杀或上街游行，而机器

人你让它24小时一直干着都没有问题，管理成本又节省下来——管理成本往往

是无形的，不那么容易计算。换用机器人很容易就可以收回成本，也许一年就收

回来了。所以他们乐意用机器人取代工人。一些地方政府还通过政策鼓励当地的

工厂用机器人来替代工人，换个角度想想，城市这样发展下去，不需要几年，几

百万工人失去工作，到那个时候后悔就来不及了。

人工智能第二个近期的威胁，是由加入军队的人工智能带来的。但现在以美国为

首的某些发达国家，最起劲的事情就是研发军事用途的人工智能。研发军事用途

的人工智能本质上和研发原子弹是一样的，就是一种更有效的杀人手段。为什么

埃隆·马斯克等人也号召要制止研发军事用途的人工智能，道理很明显：研发军

事用途的人工智能，就是研发更先进的杀人武器，当然不是人类之福。

今天我们只能、而且必须抱着和当年搞“两弹一星”类似的心态，来进行军事用

途的人工智能研发。军用人工智能就是今天的“两弹一星”。

比较理想的局面，是各大国坐下来谈判，签署限制或禁止人工智能的国际协议。

目前国际上已出现一些这样的倡议，但仅来自某些学者或学术机构，尚未形成国

家层面的行动或动议。

中期威胁：人工智能的反叛和失控

我们再来看人工智能中期的威胁——人工智能的失控。这种威胁媒体早有报道，

但有一些人工智能的专家出来安慰大家，他们认为人工智能现在还很初级，即使

战胜了李世石，不过是下个棋，即使它会作诗、写小说，它还是很低级的，所以

不用担心。这种安慰非常荒谬。

我们都知道“养虎遗患”的成语，如果那些养老虎的人跟我们说，老虎还很小，

你先让我们养着再说，我们能同意这样的论证吗？你让我们同意养老虎，就得证

明老虎不会吃人，或者证明你养的不是老虎。要是老虎养大了，它要吃人了，就

来不及了。

这个成语非常适合用来警惕人工智能的失控。各种各样的科幻作品都有提及失控

的后果，比如影片