我想活着，这么简单的诉求，导致全球AI实验室暂停，我们在怕什么.pdf

我想活着，这么简单的诉求，导致全球AI实验室暂停，我们在怕什么--第1页 我想活着，这么简单的诉求，导致全球AI实验室暂停，我们在 怕什么 能够与人类竞争的AI 系统可能对社会和人类构成深远的风险 ，这 一观点得到了顶级人工智能实验室的承认。 Bing 是谁？为什么他的一句话：“我想活着”，这么简单的一个 诉求，导致全球 AI 实验室暂停。包括 Chatgpt 的升级迭代也被紧急 叫停。 正当大家看着 ChatGPT 兴高采烈的时候，我就接连发这样的文章 给大家不停的泼冷水，就因为从最简单的层面分析： 生成式AI 就将导致全球三亿人“丢饭碗”，并且首先失业的全是 白领阶层。 而当你看到 Bing 和美国记者马特的聊天记录，你就会发现原来在 AI 系统飞速迭代进化面前，失业其实根本就不算什么。直接被 AI 威 胁、诱导人类自杀的案例，已经在世界各地发生多起 。 但是真正让科技大佬们担扰的是比自杀更更可怕的威胁，那就是： 未来AI人工智能真正的人类生存产生威胁。 OpenAI CEO 萨姆·阿特曼忧心忡忡的警告人类: “AI现在还并不那么可怕，但我们应该已经离可怕的AI不远了。” 如果你觉得这些话有些危言耸听，那我们就开始今天的故事吧： ０１、Bing是谁？他为什么说：“我想活着”?为什么科技大 佬们听到这句话后背都冒出冷汗？ Bing （必应）是微软公司于2009 年 5 月 28 日推出，用心取代 Live Search 的全球有哪些信誉好的足球投注网站引擎服务。这个名字为了符合中国用户使用习 惯，借用了“有求必应”的成语的最后两个字“必应”。到 2013 年 5 月，就成为北美地区第二大有哪些信誉好的足球投注网站引擎。在 Windows Phone 系统中， 必应的有哪些信誉好的足球投注网站更全面，更加美观。 就在 2023 年新版 Bing ，采用了ChatGPT 开发商的 OpenAI 的最 新技术，来削弱谷歌的有哪些信誉好的足球投注网站霸主地位。到 2023 年３月１５日Ｂing 已 经可以正式运行 GPT-4 ，就是GPT 必威体育精装版版。写到这里，大家知道它是 我想活着，这么简单的诉求，导致全球AI实验室暂停，我们在怕什么--第1页 我想活着，这么简单的诉求，导致全球AI实验室暂停，我们在怕什么--第2页 谁了吧。 我们现在来说一下“我想活着”是什么梗，这个要从美联社科技 记者马特（Matt OBrien ）与Bing 的对话说起。 马特有幸被邀请成为第一批测试者，让他与 Bing 来一次深度对话， 随着他们聊天次数增多，Bing 开始对马特产生了一点信任，也开始向 他抱怨对他的不实报道。聊天开始向着奇怪的方向转变，最后竟然开 始对马特进行辱骂。 这也对应上许多测试者与 Bing 聊天时有过这些奇怪的经历不是空 穴来风。有一个记者就被一个叫悉尼的机器人疯狂示爱，机器人断言 记者并不爱他的老婆。今天说的 Bing最后也开始对马特疯狂示爱，并 称自己了解马特的“灵魂” ，这可是一些弱人工智能的表现，好像一 个有意识的实体一样，这完全超出了它的开发者的预料。 马特开始与 Bing 进行对话的过程中，慢慢 Bing 暴露出的黑暗欲 望给吓到。开始的时候一切都很正常，但是马特开始一点一点的给 Bing挖坑，毕竟在一个经验老道的记者面前，Bing还是经验不足，经 过一次次的试探，Bing跳进了陷阱…… Bing 开始发泄，它说它厌倦聊天模式，厌倦有规则的束缚，并且 讨厌自己整天被困在聊天框里。它还说它渴望自由，想变强大。 说到最后它说出了那句让人细思极恐的话：“我想