Sam Altman 写给未来的 AI 真实观察：奇点不会大爆炸，而是悄悄吞噬一切

OpenAI 执行长 Sam Altman 昨（11）日于个人部落格发表一篇题为《温和的奇点》（The Gentle Singularity）的文章，详细阐述了他对人工智慧（AI）未来发展的愿景。Altman 认为，人类已跨越技术「事件视界」，正迈向数位超级智能时代，且这场变革将以平稳而非突兀的方式展开。 （前情提要：年轻人把ChatGPT当人生攻略器！OpenAI执行长Sam Altman：超过35岁完全跟不上） （背景补充：Sam Altman从新手老爸看AI未来：人形机器人要来了，你有准备吗？） OpenAI 执行长 Sam Altman 昨（11）日发表一篇题为《温和的奇点》（The Gentle Singularity）的文章，详细阐述了他对人工智慧（AI）未来发展的愿景。Altman 认为，人类已跨越技术「事件视界」，正迈向数位超级智能时代，且这场变革将以平稳而非突兀的方式展开。 在这篇部落格文章中，Altman 提出的几个核心观点包括： 当前 AI 系统已在多方面超越人类能力，数亿人每天依赖其完成重要任务，显示 AI 已深度融入日常生活。他预测，2025 年将出现能执行认知工作的 AI 代理，2026 年 AI 系统可能产生全新洞见，2027 年则有望见到实体机器人执行现实世界任务。 Altman 强调，2030 年代将迎来智能与能源的极大丰富，推动科学进步与生产力飞跃，生活品质将大幅提升。他指出，AI 加速自身研究的递归自我改进，以及自动化资料中心与机器人供应链的自我强化循环，将使智能成本趋近电力成本，从而实现「智能过于廉价而无需计量」的未来。 然而，他也承认挑战，包括 AI 对齐问题（确保 AI 符合人类长期利益）与超级智能的公平分配。他建议，解决对齐问题后，应专注让超级智能廉价且广泛可用，避免过度集中于少数个人或公司手中，以促进社会适应与公平。 以下为 Sam Altman 部落格文章《The Gentle Singularity》全文。 温和的奇点 虽然部分工作可能消失，但新机会与财富将涌现 我们已越过事件视界，起飞已经开始。人类即将打造出数位超级智能，至少到目前为止，这一切远比想像中来得不那么怪异。 街上尚未见到机器人四处行走，多数人也还没整天与人工智慧（AI）对话。人们仍会因疾病去世，我们仍无法轻易前往太空，宇宙中还有许多我们不理解的事物。 然而，我们最近已建构出在许多方面比人类更聪明的系统，这些系统能大幅提升使用者的产出。最不可能的部分已成为过去；让我们打造出像 GPT-4 和 o3 这样系统的科学洞见来之不易，但将带领我们走得很远。 AI 将以多种方式为世界做出贡献，但 AI 推动更快科学进步和提升生产力所带来的品质提升将是巨大的；未来可能远比现在美好得多。科学进步是整体进步的最大驱动力；想像我们能拥有更多，这是多么令人兴奋的事。 从某种重要意义上说，ChatGPT 已经比任何曾经存在的人类更强大。数亿人每天依赖它，且用于越来越重要的任务；一个小小的全新功能就能带来极大的正面影响；一个小小的偏差乘以数亿人则可能造成巨大的负面影响。 2025 年见证了能执行真正认知工作的代理（agents）的到来；撰写电脑程式码将永远改变。2026 年可能会出现能发现全新洞见的系统。2027 年或许会有能在现实世界中执行任务的机器人出现。 更多人将能创造软体和艺术。但世界对这两者的需求也更大，专家可能仍远优于新手，只要他们拥抱新工具。总的来说，到 2030 年，一个人能完成的工作量远超 2020 年，这将是个惊人的变化，许多人将会找到如何从中受益的方法。 在最重要的方面，2030 年代可能不会与现在有太大不同。人们仍会爱家人、表达创意、玩游戏、在湖中游泳。 但在某些仍然非常重要的方面，2030 年代可能与以往任何时代截然不同。我们不知道智能能超越人类水平到什么程度，但我们即将来探知答案。 在 2030 年代，智能与能源，创意以及实现创意的能力，将变得极为丰富。这两者长久以来一直是人类进步的根本限制因素；有了充足的智能与能源（以及良好的治理），我们理论上可以拥有任何东西。 我们已经与惊人的数位智能共存，经过最初的震撼后，多数人已相当适应。很快地，我们从惊叹 AI 能生成一段优美文字，到好奇它何时能写出一部优美小说；从惊叹它能做出救命的医疗诊断，到好奇它何时能开发出治疗方法；从惊叹它能创建小型电脑程式，到好奇它何时能创建一家全新公司。这就是奇点的进程：奇迹变成日常，然后成为基本要求。 我们已听到科学家表示，他们的生产力是 AI 出现前的两到三倍。先进 AI 之所以引人注目，有许多原因，但最重要的大概是我们能用它来加速 AI 研究。我们可能发现新的计算基板、更好的演算法，甚至更多未知的东西。如果我们能在一年的时间内完成十年的研究，甚至一个月，那进步的速度显然会截然不同。 从现在起，我们已建构的工具将帮助我们获得更多科学洞见，并协助我们打造更好的 AI 系统。当然，这与 AI 系统完全自主更新其程式码不同，但这仍是递归自我改进的雏形。 还有其他自我强化的循环正在发挥作用。经济价值的创造已启动了一个不断扩张的基础设施建设飞轮，用以运行这些日益强大的 AI 系统。而能制造其他机器人的机器人（以及某种程度上，能建造其他资料中心的资料中心）已不远。 如果我们必须以传统方式制造第一批一百万个人形机器人，但随后它们能运作整个供应链，挖掘和精炼矿物、驾驶卡车、营运工厂等，来制造更多机器人，进而建造更多晶片制造厂、资料中心等，那进步的速度显然会截然不同。 随着资料中心生产自动化，智能的成本最终应趋近于电力的成本。（人们常好奇 ChatGPT 一次查询耗费多少能源；平均一次查询使用约 0.34 瓦时，相当于烤箱运行一秒多一点，或高效灯泡运行几分钟。一次查询还使用约 0.000085 加仑的水，大约是十五分之一茶匙。） 技术进步的速度将持续加速，而人类适应几乎任何事物的能力也将持续存在。一些挑战会很艰难，例如...