在OpenAI最强推理模型o3-pro发布之际，萨姆·奥特曼（Sam Altman）发布了一篇最新博文，并在文中指出：人类已踏入数字超级智能发展的关键阶段，虽然当下机器人尚未普及、诸多难题仍待解决，但 GPT-4 等 AI 系统已在多领域超越人类并放大生产力。2030 年代，技术进步将使智能与能源极大丰富，推动科学、生产等领域剧变，同时 AI 会从惊叹变为日常。

他强调，技术进步虽伴随工作消失等挑战，但社会具备适应力，关键要解决 AI 目标对齐问题，让超级智能低成本普及、避免垄断，通过集体智慧平衡风险与收益，最终实现技术平稳迭代，使智能廉价可得，开创更美好的未来。

原文（译文）：

我们已越过事件视界，起飞已然开始。人类即将构建数字超级智能，而至少到目前为止，这一切远没有想象中那般离奇。

机器人尚未漫步街头，我们大多数人也未整日与 AI 对话。疾病仍在夺走生命，太空旅行依旧不易，宇宙中仍有诸多奥秘待解。

然而，我们近期开发的系统已在诸多领域超越人类智慧，并能显著放大使用者的产出。最艰难的工作阶段已告一段落 —— 催生 GPT-4 和 o3 等系统的科学洞见来之不易，却将引领我们走得更远。

AI 将以多元方式贡献世界，而其推动科学加速进步、提升生产力所带来的生活质量飞跃将是巨大的：未来或将远胜当下。科学进步是整体发展的核心驱动力，试想我们还能取得多少突破，便足以令人振奋。

从某种宏观意义而言，ChatGPT 已比历史上任何人类都更强大。数亿人每日依赖它完成愈发重要的任务：一项微小的新功能可能创造巨大积极影响，而一次微小的目标偏差乘以数亿用户，也可能引发严重负面效应。

2025 年，具备实际认知能力的智能体已问世，计算机编程将彻底革新。2026 年，或许会出现能产生全新洞见的系统；2027 年，可能诞生能在现实世界执行任务的机器人。

更多人将具备开发软件与创作艺术的能力。但世界对两者的需求仍在激增，而专家只要拥抱新工具，大概率仍将远超新手。总体而言，2030 年单人产出较 2020 年实现惊人跃升，这一变革将被许多人掌握并从中获益。

在最重要的维度上，2030 年代或许并无剧变。人们仍将爱家人、释放创造力、玩游戏、在湖中游泳。

但在另一些关键层面，2030 年代可能与以往任何时代都截然不同。我们尚不知晓智能能超越人类到何种程度，但即将揭晓答案。

2030 年代，智能与能源 —— 即创意及其落地能力 —— 将变得极大丰富。长期以来，这两者一直是人类进步的根本制约因素；若拥有充沛的智能与能源（辅以良好治理），理论上我们能实现任何目标。

我们已与惊人的数字智能共存，在经历最初的冲击后，多数人已相当适应。我们很快从惊叹 AI 能生成优美段落，转向期待它创作小说；从惊叹它能做出救命的医学诊断，转向期待它研发疗法；从惊叹它能编写小程序，转向期待它创立全新公司。奇点便是如此：奇迹变为常态，继而成为基准要求。

科学家们已表示，借助 AI，工作效率提升了两到三倍。先进 AI 的价值体现在诸多方面，但或许最重要的莫过于我们能用它加速 AI 研究本身。我们可能发现新的计算基质、更优算法，甚至其他未知突破。若能在一年甚至一个月内完成十年的研究量，进步速度必将截然不同。

从现在起，现有工具将助力我们获取更多科学洞见，打造更优 AI 系统。诚然，这与 AI 完全自主更新代码不同，但已是递归自我改进的雏形。

此外，还有其他自我强化循环在发挥作用。经济价值的创造已启动飞轮效应，推动着支撑日益强大 AI 系统的基础设施呈复合式增长。能制造其他机器人的机器人（某种意义上，能建造其他数据中心的数据中心）已不远矣。

若我们需以传统方式制造首百万台人形机器人，而后它们便能运营整个供应链 —— 挖掘提炼矿物、驾驶卡车、管理工厂等 —— 以制造更多机器人，进而建设更多芯片制造厂、数据中心等，进步速度必将天翻地覆。

随着数据中心生产走向自动化，智能的成本最终可能趋近电力成本。（人们常好奇 ChatGPT 一次查询消耗多少能源：单次平均约 0.34 瓦时，相当于烤箱运行一秒多，或高效灯泡亮几分钟的能耗。耗水量约 0.000085 加仑，约十五分之一茶匙。）

技术进步速率将持续加速，而人类几乎总能适应任何变革。这过程中会有艰难挑战，如整类工作消失，但另一方面，世界将迅速富裕，使我们能认真探讨以往不敢想象的新政策。我们或许不会一蹴而就地采用新社会契约，但数十年后回望，渐进的改变将积少成多。

若以史为鉴，我们会探索新事务、萌生新需求，并快速吸收新工具（工业革命后的职业变迁便是近期佳例）。期待会提升，但能力亦会同步跃升，我们都将获得更好的事物。我们会为彼此创造愈发奇妙的成果。人类相较 AI 有一项长期重要的独特优势：我们天生关心他人及其所思所为，而对机器漠不关心。

千年前的自给农民若看到我们如今的许多工作，会认为是 “虚假职业”，觉得我们因衣食无忧、享受着难以想象的奢侈品，便只顾游戏取乐。我希望未来的我们看待千年后的职业时，也会觉得它们 “很虚假”，但毫无疑问，从事这些职业的人会深感其重要与满足。

新奇迹的诞生速率将难以估量。如今很难想象 2035 年我们会取得何种发现：或许今年解决高能物理难题，明年便启动太空殖民；或许今年实现材料科学重大突破，明年便推出真正的高带宽脑机接口。许多人会选择延续现有生活方式，但至少部分人可能决定 “接入” 新的世界。

展望未来，这一切似乎难以理解。但亲历其中或许只会让人觉得震撼却可控。从相对论视角看，奇点是循序渐进的，融合亦是缓慢发生的。我们正攀登技术指数级进步的长弧：向前看总是陡峭如立，向后看却平坦如砥，但实则是一条平滑的曲线。（回想 2020 年，若当时有人说 2025 年将接近通用人工智能，听起来或许比我们如今对 2030 年的预测更荒谬。）

除巨大机遇外，亦有严峻挑战需直面。我们确需从技术与社会层面解决安全问题，而鉴于其经济影响，将超级智能的使用权广泛分发亦至关重要。最优路径或许如下：

解决目标对齐问题，即我们能可靠确保 AI 系统学习并长期致力于人类集体的真正诉求（社交媒体推送便是目标错位的例证：驱动推送的算法极擅让用户持续滚动，清晰理解用户短期偏好，却通过利用大脑中凌驾于长期偏好的机制实现这一点）。

继而专注于让超级智能成本低廉、普及可用，且不被任何个人、企业或国家过度垄断。社会具有韧性、创造力，且适应迅速。若能凝聚人类的集体意志与智慧，即便会犯错、会遭遇挫折，我们也能快速学习适应，让这项技术实现最大收益、最小风险。在社会共识的大框架内赋予用户充分自由，这一点至关重要。世界越早开启关于 “大框架” 的定义及 “集体对齐” 的讨论，便越有利。

我们（整个行业，而非仅 OpenAI）正在为世界构建一个大脑。它将高度个性化、人人易用，而制约我们的唯有优秀创意。长期以来，创业圈的技术人士常调侃 “点子先生”—— 那些有想法却四处寻找团队实现的人。如今在我看来，他们的时代即将到来。

OpenAI 如今身负多重角色，但首先，我们是一家超级智能研究公司。前方仍有大量工作，但道路已渐明晰，未知领域正快速退散。能从事当下的事业，我们深感荣幸。

“智能廉价到无需计量” 已触手可及。这或许听似疯狂，但若在 2020 年告诉当时的人们我们会走到今天，其荒谬程度恐怕远超我们如今对 2030 年的预测。

愿我们平稳、指数级、无波澜地跨越超级智能阶段。

参考资料：https://blog.samaltman.com/the-gentle-singularity