通往通用人工智能的路径

这是关于 AGI 现状最深刻的对话之一。Sam 谈及 OpenAI 的战略、安全考量，以及他对未来十年的预判。特别是关于"何为真正的智能"的讨论，触及了人类存在的根本问题。推荐对 AI 感兴趣的每一个人。

关于嘉宾与来源

Lex Fridman 是人工智能研究员和播客主持人，以深度、有思想的采访著称。

Sam Altman 是 OpenAI 的 CEO，曾任 Y Combinator 总裁，是科技行业最有影响力的声音之一。

这场对话录制于 2024 年，是在 GPT-4 发布后最系统的战略讨论。

Lex: Sam，感谢你来。我想从一个基础问题开始：在你看来，过去两年 AI 发展最令人震惊的部分是什么？

Sam: 我认为最令人震惊的是涌现的现象。我们没有在 GPT-3 和 GPT-4 之间刻意教它们新的能力，但突然间，它们可以进行更复杂的推理、写代码、分析论文。这种无意识的涌现表明，我们可能正在触及智能的本质结构。同时，这也很恐怖。我们在黑盒中做的某些事情奏效了，但我们还不完全理解它。

Lex: 这让我想起了数学中的相位转变——从一种状态突然跳到另一种。

Sam: 完全正确。我们正在经历某种临界质量。规模、数据、计算能力的组合似乎打开了一道门。问题是，这道门的另一边是什么？

Lex: 让我们谈谈 AGI。首先，你如何定义通用人工智能？

Sam: 这是个困难的问题，因为”通用”可以有不同的含义。我认为 AGI 是一个能够学习和执行人类可以执行的任何任务的系统——不需要为每项新任务进行专门训练。不是比人类更聪明，而是更多功能性的”通用性”。

同时，我也认为 AGI 最好通过社会衡量。当社会广泛认为一个 AI 系统是通用的，那它就是通用的。

Lex: 你为什么在最近的演讲中提到 2025-2030 这个时间框架？

Sam: 顿了顿 这很危险，因为公众期望。但基于我们看到的趋势——如果计算增长以目前的速率继续，如果我们找到了新的训练方法——那么这个时间窗口是合理的。但我可能错了。可能是 2040，也可能更快。

关键不是具体的日期，而是要认识到：我们不再是在问”AGI 是否会出现”，而是”何时以及如何最安全地出现”。

Lex: 这的确改变了对话。

Sam: 是的。而且这很沉重。

Lex: 既然你提到安全，让我们直面这个议题。有人说 OpenAI 优先考虑速度而不是安全。你如何回应？

Sam: 首先，这个指控我们非常认真对待。其次，我认为这是一个错误的二分法。速度和安全不总是相互冲突的。在某些情况下，快速可能更安全——我们可以获得真实世界的反馈，进行迭代改进。

但我会说实话：我们做出了艰难的权衡。我们公开部署 GPT-4，虽然它有局限性。我们对此感到有些不安，但我们相信透明度和广泛访问最终会导致更好的安全结果。

Lex: 那么最大的风险是什么？

Sam: 我担心两件事。其一，误用——一些聪明的坏人可能会用这项技术造成伤害。其二，也是更深层的，是我们对齐问题。当 AI 系统变得足够强大时，确保它们的目标与人类的目标一致变得极其困难。这不是科幻小说。这是现实的数学和工程挑战。

我们在 OpenAI 花费了大量资源研究对齐问题。我相信这将是本世纪最重要的问题。

Lex: 如果我们成功地创建了 AGI，并且它保持对齐，人类的角色会是什么？

Sam: 长时间沉默 这是我经常想的问题。我的希望是，AI 成为我们的合作伙伴——帮我们解决气候变化、疾病、贫困。AI 可以科学地加速，可以帮助我们更深地理解宇宙。

但坦诚地说，我也不知道。可能会有一个时期，AI 做任何我们做的事情都更好。那时会发生什么？也许这不是问题。也许有无限的改进空间，AI 可以帮我们探索。

或者，也许我们需要重新定义人类的意义——不再围绕经济贡献，而围绕创意、关系、探索。

Lex: 你是否害怕？

Sam: 害怕？是的，有时候。不是在好莱坞的意义上——我不认为 AI 会想要奴役我们。但我害怕我们会搞砸。害怕我们会滥用权力。害怕我们不够聪明，无法驾驭自己创造的东西。

但我也充满希望。人类很聪明。我们可以团结起来解决这个问题。

Lex: 最后一个问题：如果你能和未来 30 年后的某个人交谈，了解我们是如何度过这个时代的，你最想知道什么？

Sam: 笑了我想知道我们是否活着。停顿不，认真的，我想知道我们是否用 AI 来构建我们想要的世界。我想知道是否有更多的幸福、更少的痛苦。我想知道是否有一代年轻人成长在他们的才能真正被看见和欣赏的世界中，而不是因为竞争而被忽视。

我想知道我们是否成功。

完整视频： Lex Fridman Podcast #423 - Sam Altman

相关推荐：