人工智能的石器时代.docx

?

?

人工智能的石器时代

?

?

李军

目前弱人工智能的最好写照是：一边是天才、一边是弱智的“雨人”式智能

人工智能，是2017年最热的科技话题。从今年5月Google的人工智能系统AlphaGo以3比0战胜世界围棋第一人柯洁，到7月份Facebook的CEO马克·扎克伯格（MarkZuckerberg）和特斯拉的CEO埃隆·马斯克（ElonMusk）为人工智能隔空论战。最后埃隆·马斯克直指马克·扎克伯格对人工智能知之甚少。

那么，人工智能真的可以具有类人的智能吗？今年5月底，《麻省理工技术评论》（MITTechnologyReview）发表的人工智能发展前瞻时间表给了这样的回答：除了战胜人类围棋高手的目标已经达到外，语言翻译（2024年），撰写高校论文（2026年），驾驶卡车（2027年）乃至撰写纽约时报排行榜畅销书（2049年）和完成外科手术（2053年）都赫然在列。

最近几个月，有关人工智能的终极警告见诸媒体：如“霍金警告：人工智能可能让人类灭绝”，“保安机器人‘自杀人工智能对人类来说是福是祸”，“细思恐极！两个人工智能系统用人类无法理解的语言进行了交流”等，那么，人工智能技术真的已经在人类可控的边缘吗？

答案是否定的：目前我们掌握的人工智能技术还非常粗糙和原始。如果把人工智能和人类使用工具的历史相比，我们目前还处在人工智能的“石器时代”。

弱人工智能阶段进行中

目前业界公认的人工智能发展分为三个阶段，即弱人工智能（ArtificialNarrowIntelligence，ANI）、强人工智能（ArtificialGeneralIntelligence，AGI）和超人工智能（ArtificialSuperIntelligence，ASI）。但每个阶段的定义稍有不同。

所谓弱人工智能，就是像目前的各种对话机器人如Siri，还有围棋系统AlphaGo和IBM的认知系统Watson。它们需要依赖于海量数据，并在设计者精心构建的环境下进行模型训练，最终对给定目标基于明确任務展现强大的计算和认知能力。目前人类出现的所有人工智能系统都在此阶段，无一例外。

所谓强人工智能，目前业界没有统一的定义。但总的来说强人工智能应该不再局限于单一的明确目标，它应该能够自主进行非结构化数据的学习，并完成通用的任务。训练过程不再局限于格式化的数据输入，而是可以像训练猫、狗一样进行模糊训练。

我认为，人工智能系统应该达到高级哺乳动物甚至人类婴儿的智力水平，这才谈得上强人工智能系统，这就包括了类似于批判性的分析问题和抽象的思考能力。

显而易见，目前无论是谷歌、亚马逊还是别的互联网创新企业，他们研究的人工智能项目与此都还相去甚远。

超级人工智能目前是意见分歧最大的阶段。但总的来说，作为发展的最高阶段，人工智能系统应该已经适用阿西莫夫的机器人三定律，即：机器人不得伤害人类，或因不作为使人类受到伤害;除非违背第一定律，机器人必须服从人类的命令;除非违背第一及第二定律，机器人必须保护自己。

所以，超级人工智能应该具有自我的认知能力，它将以我们目前无法理解的方式来构建和运行。同时，作为目前已知的智能和认知领域的唯一杰作——大脑，在超级人工智能到来时，大脑本身的工作方式和针对其的人工模拟技术一定已经实现。很难想象人类会创造一种新的和大脑工作机理完全不同的人工智能系统。

我认为更大的可能性是人类基于对大脑构造的深刻认识和全面仿真基础上构建出真正的超级人工智能系统。

弱人工智能弱在哪？

根据这样的阶段划分，我们就知道目前所有的已经应用和还在研究的人工智能技术无一例外都是弱人工智能，其核心能力和大多数人所理解的智能相去甚远。

那么我们看看，现有的人工智能技术究竟弱在哪里？

其一，目前的弱人工智能必须精确学习，指定输入。人类智能来自于学习，而人类的学习过程往往是模糊学习，正误混杂。对于目前的人工智能系统，学习的过程其实是通过输入已知数据完成对模型的调整（通常被称为训练模型）。任何错误的已知数据都会导致模型偏离最终的理想结果。在没有人工干预的前提下，模型本身没有任何过滤错误数据影响的能力。

微软公司在去年推出了一款名为“Tay”的人工智能系统，其设计能够模仿一名19岁的美国少女与Twitter用户在线聊天，微软希望Tay能够通过与人类对话进行自我学习并不断完善，从而更好地与人类交流。但是在Tay上线之后仅仅16小时，Tay开始频繁爆出粗口，其中不乏种族歧视、侮辱女性以及污秽不堪的词句，最终微软不得不将其紧急下线。

微软的Tay人工智能系统发生与预想结果重大偏离的核心原因就是现有的弱人工智能技术无法面对模糊学习和错误信息的挑战。

有关弱人工智能的指定输入有这样一个实例：主人设定扫地机器人iRobot每天凌晨1点半自动启动清理房间，这样起床后就能