徐贲：“人工智能毁灭人类”是一种末世恐惧传染病.pdf

徐贲：“人工智能毁灭人类”是一种末世恐惧传染病 为什么成功研制出了量子计算机是个“凶讯”而不是好消 息呢？对谁是凶讯， 对人类还是对中国？“抢占人工智能全球 制高点”又是为了什么目的？是为了保卫人类还是仅仅为了 一国的科技优势？ 在人工智能问题的技术主义未来展望中，为什么要发展人工 智能的目的价值问题——人类自身能从人工智能研究得到 什么样的认知和人性提升——经常被抛到一边。人工智能被 想当然地当成对人类的威胁， 害怕 人造人’毁灭人类成为一种 非理性的，像传染病一样传播的恐惧。这是愚蠢而不是智慧 的表现。 一 人类的愚蠢比超级电脑更可怕 从目前的情况来看，害怕和反对发展人工智能的一些主要理 由都是从它对人类可能的负面影响着眼的：使人贬值（人在 某些方面失去智力优势、信任智能机器胜过信任人、迷恋智 能手机让人忽略了周围的他人） 、降低对人的劳动的需要 （造 成某些行业的失业） 、冒充为道德主体（法庭用人工智能决 定是否让犯人假释） 。 这些都是人可以想办法来加以纠正或改变的，因此不构成反 对人工智能的必要理由，更不要说是充分理由了。对人工智 能最严重的反对理由是，人类将无法控制后奇点的人工智能， 它有一天会摧毁人类，人类将对此束手无策。人类真的需要 害怕“人造人”会毁灭人类吗？要回答这个问题，首先得问， 人造人有可能毁灭人类吗？脸书的人工智能研究部主任，纽 约大学教授扬·勒丘恩 （Yann LeCun ）是一位计算机科学家， 他在机器学习、计算机视觉、活动机器人和計算神经科學等 领域都有很多贡献。他最著名的工作是在光学字符识别和计 算机视觉上使用卷积神经网络 (CNN) ，他也被称为卷积网络 之父。 以他对数码技术和人工智能的知识，他在 Quora （一个在线 知识网站，集合许多问题和答案，也容许用户协同编辑问题 和答案。 其创建目标是“挖掘出网络上未有的维基知识，并 赋予其强烈的社会媒体属性”） 上发表意见说， 人工智能毁灭 人类的可能不是没有，但需要人类足够愚蠢，自己让这样的 事情发生。人类既然能有创造超人智能的聪明才智，应该不 至于愚蠢到让人工智能获得如此摧毁力量的程度。 在人工 智能的未来发展中起决定性作用的是人，不是机器。这是一 个基本的人文主义信念。 我们也没有理由相信，机器人因为智能强大就会想要主宰世 界，控制人类。主宰欲和控制欲是一种人类的特性（虽然只 是一部分人类） 。即使在人类中间，智能越高也不等于主宰 欲和控制欲就越强。 情况可能正好相反，权力欲很强的人，往往不是因为智能高 超，而是因为道德低下， 什么事情都能不择手段、 无所不为。 他们为获得权力所做的事情，智能高的人不是没有能力去做， 而是因为一些道德或原则的理由而不愿意去做，也就是，坏 事当前，有所不为。不择手段、无所不为也能算是一种值得 学习和发展的人类智能吗？ 勒丘恩指出，人类所做的许多坏事都是人性所致，其基因都 是在人类生存的演化过程中形成的，如面对威胁时的暴力 （当然可以变成无缘无故） 、自私、妒嫉、独占心、控制欲 等等。除非人类将这些阴暗和邪恶的东西编程输入机器人的 头脑，它们不可能从不存在的演化过程中自行获得。因此， 看上去是机器人的问题，其实是人类自己的问题：我们要把 这些危险的东西输入给机器人吗？ 就算有的人类会像对学生洗脑那样，把邪恶的东西塞进机器 人的头脑，也还是会有别的人类会创造出另一种不同的机器 人，它们的专门任务就是打败那种邪恶的机器人，或者对它 们进行启蒙，帮助它们不再继续作恶。 勒丘恩相信， “如果两种人工智能都能获得同等的计算能力资 源，那么第二种人工智将会胜出”。 当然， 这个胜利最终还必 须取决于这个世界上善的力量是否强大。归根结底，不同性 质人工智能之间的善恶交战，其胜负是在人类世界里决出的。 一些人类害怕人造人有一天会毁灭人类，