Pine 萧箫 金磊 发自 凹非寺

量子位 | 公众号 QbitAI

“AI确实可能杀死人类。”

这话并非危言耸听，而是OpenAI CEO奥特曼的最新观点。

而这番观点，是奥特曼在与MIT研究科学家Lex Fridman长达2小时的对话中透露。

不仅如此，奥特曼谈及了近期围绕ChatGPT产生的诸多问题，坦承就连OpenAI团队，也根本没搞懂它是如何“进化”的：

从ChatGPT开始，AI出现了推理能力。但没人能解读这种能力出现的原因。

唯一的途径是向ChatGPT提问，从它的回答中摸索它的思路。

针对马斯克在推特上的“危险论”，他直言：

马斯克在我心中是英雄，我支持也理解他的担忧。

虽然他在推特上挺混蛋的，但希望马斯克能看到我们在解决AGI安全问题上付出了多大的努力。

除此之外，在这场对话过程中，奥特曼还提到了不少刁钻的话题，例如：

在看过这场对话之后，网友直呼：

两位AI大佬用大家都能理解的方式聊AI，多来点这样的访谈。

即便如此，团队甚至奥特曼自己依旧不能完全解读GPT-4。

目前对它的解读方式，依旧是通过不断问它问题，通过它的回答来判断它的“思路”。

而就在不断测试中，OpenAI发现从ChatGPT开始，GPT系列出现了推理能力。

虽然ChatGPT绝大部分时候都被当做数据库使用，但它确实也出现了一定的推理能力，至于这种能力具体如何出现的，目前却无人能回答。

但大模型的训练往往意味着大量算力需求。对此奥特曼再次提到了OpenAI独特的训练预测方法：

即便模型很大，团队目前也有办法只通过部分训练，预测整个模型的性能，就像是预测一名1岁的婴儿能否通过SAT考试一样。

关于这一点，在GPT-4论文和官方博客中也有更详细介绍。

如今，已经过去八年之久，这两个Flag也是发生了巨大的变化：AGI的大旗还在高举，而非营利性这面旗则已经摇摇欲坠。

对此，奥特曼也是分别作出了回应。

对于OpenAI“非营利性质”的逐渐削弱，奥特曼直言：很久之前，就已经意识到非营利性不是长久之计。

仅仅依靠非营利筹集到的资金对OpenAI的研究来说远远不够，商业化是必然选择。

但在之后奥特曼也试图“找补”回一些，称目前的商业化的程度仅止于满足投资者与员工的固定回报，剩余资金还是会流向非营利性组织。

提到AGI，一开始在OpenAI声称要做通用人工智能时，还有一堆人在嘲讽，如今做出GPT-4这样的产品，回过头来再看，嘲讽的声音已经越来越少了。

而面对外界询问“GPT-4是AGI吗”这样的问题时，奥特曼则是直接给出了自己理解中的AGI：

AGI所掌握的知识应该是要超过人类科学知识总和的，并且具有创造性，能够推动基础科学的发展；

而目前所有GPT并不能做到这些，想要达到AGI还需要在目前GPT的范式上进行拓展，至于如何拓展，正是目前所缺乏的。

值得一提的是，谈到AGI时，是奥特曼在访谈中鲜有的“两眼放光”的时刻。

他抛出了一句极具“科研分子理想情怀”的金句：

也许AGI是永远抵达不了的乌托邦，但这个过程会让人类越来越强大。

但奥特曼并不否认过分强大的AGI“可能杀死人类”这一观点：

我必须承认，（AI杀死人类）有一定可能性。

很多关于AI安全和挑战的预测被证明是错误的，我们必须正视这一点，并尽早尝试找到解决问题的方法。

在谈话最后，Lex Fridman还试图让奥特曼讲一些给年轻人们的建议，奥特曼直接来了个“反鸡汤文学”：

网络上的“成功学”帖子太诱人，建议不要听太多建议。

我就是无视建议做到现在这样的。

参考链接：https://www.youtube.com/watch?v=L_Guz73e6fw

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态