主要内容
OpenAI 首席执行官山姆·奥特曼宣称，人类已迈入人工智能超级智能时代——且无法回头。他表示：“我们已越过事件视界，起飞已经开始。”“人类即将构建数字超级智能，至少目前看来，这并不像它应有的那样怪异。”缺乏明显迹象——机器人尚未在大街小巷游荡，疾病仍未被征服——掩盖了奥特曼所描述的正在发生的深刻变革。在他自己这样的科技公司的闭门会议中，正在出现能够超越人类一般智力的系统。奥特曼称：“从某种重要意义上说，ChatGPT 已经比任何曾经存在过的人类都更强大。”他指出，“每天有数亿人依赖它来完成日益重要的任务。”这一随意的观察暗示了一个令人担忧的现实：这样的系统已经拥有巨大影响力，即使是微小的缺陷，在其庞大的用户基础上被放大后，也可能造成广泛的危害。
奥特曼勾勒出了走向超级智能的时间表，这可能会让许多读者查看他们的日历。他预计到明年，“能够进行真正认知工作的智能体将会出现”，这将从根本上改变软件开发。次年可能会带来“能够发现新见解的系统”——意味着能够生成原创发现而非仅仅处理现有知识的人工智能。到 2027 年，我们可能会看到“能够在现实世界中执行任务的机器人”。每一个预测似乎都在能力上超越了前一个，画出了一条明确指向超级智能的路线——在大多数领域，其智力能力远远超过人类潜力的系统。奥特曼表示：“我们不知道我们能超越人类水平的智能多远，但我们即将发现。”
这一进程在专家中引发了激烈的辩论，一些人认为这些能力仍需数十年才能实现。然而，奥特曼的时间表表明，OpenAI 有内部证据支持这一加速的路径，但尚未公开。
改变一切的反馈循环
当前人工智能发展令人特别担忧的是，奥特曼所称的“递归自我改进的幼虫版本”——即当今人工智能帮助研究人员构建更强大系统的能力。他解释说：“先进的人工智能因其诸多原因而有趣，但也许没有什么比我们可以用它来进行更快的人工智能研究这一事实更重要。”“如果我们能在一年或一个月内完成十年的研究，那么进步的速度显然会大不相同。”随着多个反馈循环的交汇，这种加速会加剧。经济价值推动基础设施发展，这使更强大的系统成为可能，而这些系统又产生更多的经济价值。与此同时，能够制造更多机器人的物理机器人的创建可能会创造另一个爆炸性的增长周期。奥特曼预测：“新奇迹被实现的速度将是巨大的。”“今天甚至很难想象到 2035 年我们会发现什么；也许我们将从一年解决高能物理问题到下一年开始太空殖民。”
这样的言论几乎从其他人那里听起来都像是夸张之词。但从监督着地球上一些最先进的人工智能系统的人嘴里说出来，至少值得一些思考。
与超级智能共存
尽管有潜在影响，奥特曼认为人类生活的许多方面仍将保持熟悉的轮廓。人们仍将建立有意义的关系、创造艺术和享受简单的快乐。但在这些不变的背后，社会面临着深刻的颠覆。“整个类别的工作”将消失——可能以超出我们创造新角色或培训工人能力的速度。奥特曼认为，好的一面是“世界将如此迅速地变得更加富有，以至于我们将能够认真地考虑”。