智东西（公众号：zhidxcom）

编译 | 心缘

编辑 | 漠影

2020年6月，在训练约2000亿个单词、烧掉几千万美元后，史上最强大AI模型GPT-3一炮而红。

这个OpenAI打造的语言AI模型宛如万能选手，只有你想不到的画风，没有它输不出的文案，既能创作文学，能当翻译，还能编写自己的计算机代码。

任何外行人都可以使用这一模型，几分钟内提供示例，就能获得想要的文本产出。

“我不得不说我被震撼了。”一家硅谷技术初创公司的创始人Arram Sabeti称赞道，“它比我尝试过的任何AI语言系统都更加连贯。”

“你要做的就是编写一个提示，然后添加可能会被跟进的文本。我得到的是写歌、故事、新闻稿、吉他谱、访谈，论文、技术手册。这很有趣又令人恐惧。我觉得我已经看到了未来。”Sabeti说。

GPT-3是如何实现的？它创造的东西有多逼真？存在什么缺陷？围绕这一强大的语言模型，科学家们正试图解决哪些争议？

本文将对这些问题进行详尽的综述。

GPT-3的输出牛到什么程度呢？它编撰的新故事，根本看不出来不是人类写的。

如果你让它做编程任务，它能回答琐碎问题、纠正语法、解决数学问题，甚至生成计算机代码。

其他AI也可以做这些事情，不过它们必须经过专门地训练才能完成。

如今大型语言模型已经是一个商业命题。谷歌用其改善搜索结果和语言翻译，Facebook、微软和英伟达也在开发大型语言模型。

虽说OpenAI是一家非营利性公司，但它将GPT-3的代码保密，并计划通过互联网出售GPT-3的访问服务。在2019年，它创建了一个名为OpenAI LP的营利性实体，微软还给它投资了10亿美元。

开发人员正在测试GPT-3的各种能力，包括汇总法律文件、建议客户服务查询的答案、提供计算机代码、运行基于文本的角色扮演游戏、将帖子标记为“求助”来识别同伴支持社区中高风险人员……

例如，作家兼程序员格温·布兰文（Gwern Branwen）用GPT-3编写了讽刺科学和学术界的词典定义。

输入提示：“Rigor（形容词），一种科学家们渴望的精神状态，如果科学家们能够被信任去完成他们的工作，则不需要这种精神状态。”

GPT-3即可输出类似的定义：“The Literature（名词），别人发表的论文的名字，科学家在没有真正阅读的情况下引用它们。”

以下是GPT-3输出的一系列定义示例：

GPT-3能即时生成如下诗歌：

在前8条问答中，GPT-3均给出了准确的回答：

拉克与向GPT-3进行问答对话的示例

示例链接：https://lacker.io/ai/2020/07/06/giving-gpt-3-a-turing-test.html

但当被问及奇怪的问题：“从夏威夷跳到17需要多少条彩虹？”

GPT-3竟也能胡诌出：“从夏威夷跳到17需要两条彩虹。”