·“我认为对参数数量的关注度过高。”

02:03

山姆·奥特曼在对话中表示，OpenAI没有在训练GPT-5，“一段时间”内也不会训练。(02:03)

我们正在GPT-4之上做一些其他事情，我认为有很多安全问题需要解决，而这封信却完全忽略了这些问题。

所以，我认为谨慎行事，增加对安全问题的严格性非常重要，但这封信并不是解决问题的最佳途径。

主持人：你一直非常开放，进行很多对话，非常诚实，而且OpenAI也是如此，而其他公司就相对封闭得多。这背后的理念是什么？你打算继续这样做吗？

奥特曼：我们当然打算继续这样做。

我们权衡的是，有时候我们会说一些愚蠢的话，说出一些事实上是错误的东西。我想很多其他公司在确定某件事是正确之前都不想说出来。

但是，我们认为这项技术将对我们所有人产生如此深远的影响，因此我们相信，要让每个人参与讨论、将这些系统推向世界。尽管它们在当前状态下有很多不完美之处，但是让人们体验它们、思考它们，了解它们的优缺点是值得的。

即使我们有时候在公开场合会感到尴尬，不得不根据新数据改变想法，我们还是会继续这样做，因为我们认为这比任何替代方案都要好。

OpenAI的一个重要目标是让世界参与其中，思考这个问题，逐步更新和建立新的制度，或者调整我们现有的制度，以便能够找出我们都希望建立的未来，这就是我们在这里的原因。

主持人：我们只剩下几分钟了。我必须问你一个自从我13岁以来一直萦绕在我心头的问题。

如果读过雷蒙德·库茨魏尔（Raymond Kurzweil，美国作家、未来学家）或者这个领域的任何杰出人物的书籍，（都明白）在算法开始编写改进算法代码的那一天，就是一个关键的日子，这将使世界加速发展，直至无穷大。

如今，很多我投资或者参与创立的公司开始使用AI模型进行代码生成。这些代码生成的提升范围相当广泛，从大约5%到20倍不等。这取决于你要做什么，要编写什么类型的代码，以及它需要多少上下文等等，很多与调整系统有关。

所以问题有两个：首先，在OpenAI，你们在创建下一代代码时已经看到了多少效果倍增？

接下来的问题是，从现在开始，几个月后、一年后、两年后的情况是什么样的？我们是否接近那个日子，即算法迅速自我改进，达到某个临界点？

奥特曼：这是一个很好的问题。我认为，到达自我改进的边界会变得更加模糊。我认为会发生的是，越来越多的改进循环将由AI辅助，但人类仍然是驱动力。这种情况将持续很长时间。

我从未相信过在一天或一个月内实现突破的想法。原因之一就是建立新的数据中心和更大的数据中心需要很长时间。即使我们现在知道如何做，等待混凝土干燥、将电力引入建筑物等都需要一段时间。

但是我认为会发生的是，人类将越来越多地得到AI的增强，并能够在世界上更快地完成各种事情。这不会像科幻小说中描绘的那样发展，大多数事情都不会按照科幻小说中的方式发展，这也不例外。

但是，从现在开始，随着人类获得越来越好的工具，世界变化的速度将永远加快。