根据 Sam Altman, OpenAI 的 CEO,人类已经正式跨入了一个全新且不可逆转的时代:超级人工智能的时代。
“我们已经超越了事件视界;起飞已经开始”,
Altman 表示,我们已经进入了一个阶段,在这个阶段中,人工智能不仅快速发展,而且以自主和加速的方式发展。
尽管没有明显的信号,Altman 警告说,深刻的变革 已经在进行中。在大型科技公司的幕后,正在出现能够在越来越广泛的领域超越人类智慧的系统。
目录
ChatGPT:比任何人类都强大?OpenAI 的 Sam Altman 的观点
Altman毫不犹豫地宣称,“从某种意义上说,ChatGPT已经比任何曾经活过的人类都更强大”。
随着数亿用户每天依赖这一工具来完成越来越复杂的任务,人工智能已经对社会产生了巨大的影响。
这引发了一个关键问题。即使这些系统中的小缺陷也可能导致大规模的损害,并因其广泛传播而被放大。
Altman 预测,最早在明年,我们将看到能够执行真正认知工作的代理的到来,彻底改变软件开发和其他高智力密集型行业。
到2026年,根据Altman的说法,人工智能将不再仅仅局限于重新处理现有信息,而是能够产生新的发现。从而开辟一条前所未有的数字创意之路。
到2027年,我们可能会看到能够在物理世界中运作的机器人的引入,这将标志着人工智能最终进入我们的日常生活。
Altman 的每个预测似乎都超越了之前的预测,描绘了一条直指超级智能的轨迹:在几乎所有领域中,系统的智力能力都超过了人类。
当前AI发展的最令人不安的方面之一是Altman所称的“递归自我改进的幼虫版本”。
实际上,人工智能已经在帮助研究人员构建其未来版本,以指数级加速进步。
“如果我们能在一年或一个月内完成十年的研究,那么进展速度显然会大不相同”,
解释 Altman。
这一现象由于反馈循环而进一步放大。技术发展创造了经济价值,反过来又为更强大的基础设施提供资金,从而产生更先进的系统。
一个转型的公司,但并非不可识别
展望未来,Altman 想象一个发现速度快得几乎难以理解的未来:
“也许我们会在一年内从解决高能物理问题转向在下一年开始太空殖民化。”
尽管这些变化具有革命性,Altman 认为人类生活的许多方面将保持熟悉。人们将继续坠入爱河,创造艺术,并享受简单的乐趣。
然而,在这个表面之下,社会将经历 深刻的动荡。整个职业类别可能会消失,或许比创造新工作或重新培训工人的速度更快。
根据 Altman 的说法,希望是这些进步所产生的财富能够让我们探索迄今为止难以想象的社会政策。为了帮助想象这个未来,Altman 提出了一个心理实验。
换句话说,一千年前的农民会认为我们的现代职业是“假工作”,相信我们花时间玩耍是因为我们已经拥有了我们所需的一切。
我们的后代,Altman建议,可能会以同样的惊奇看待我们当前的职业生涯。
在所有提出的问题中,有一个让人工智能安全专家夜不能寐:所谓的对齐问题。我们如何确保超级智能系统的行为与人类的价值观和意图保持一致?
Altman 强调需要找到一种方法来确保 AI “学习并朝着我们长期集体期望的方向行动”。 这绝非易事,尤其是在一个价值观经常冲突的全球化世界中。
与通过利用人类心理弱点来最大化参与度的社交媒体算法不同,超级智能必须被设计为服务于集体利益。
但“bene collettivo”究竟意味着什么仍然是一个没有答案的问题。
“首先,世界可以开始讨论这些广泛界限是什么以及我们如何定义集体一致性,这样会更好”,
Altman 警告。
一个世界的大脑
Altman将OpenAI的项目描述为构建“一个世界的大脑”。这不是一个比喻:这是旨在融入人类文明各个方面的认知系统,在所有领域超越人类能力。
根据Altman的说法,我们即将进入一个智能过于便宜而无法衡量的时代,变得像电力一样无处不在且易于获取。
对于那些认为这些言论是科幻小说的人,Altman 提醒说,仅仅在几年前,人工智能的当前能力似乎同样难以置信。
“如果我们在2020年告诉您我们会到达今天的位置,这可能看起来比我们当前对2030年的预测更疯狂”,他说。
随着人工智能行业的持续发展,Altman以一个更像祈祷的愿望结束:
“我们可以通过超级智能流畅、指数级且无事故地扩展”。
他的愿景不是一个遥远的预测,而是一个正在发生的现实。奔向超级智能的竞赛不是即将开始的事情:它已经开始了。人类必须准备好应对其后果。




