鱼羊 发自 凹非寺量子位 报道 | 公众号 QbitAI

最近，GPT-3真是风头一时无两，不仅延续了前代编故事的能力，还能写代码、答问题、下象棋……

但现在，有人指出：

GPT更像是一个即兴演员，只是在表演。

因为，GPT-3其实根本不知道自己在说什么。

就像是扮演医生的即兴演员，难道还能真的给出靠谱的医疗建议吗？

一起来看看，到底是怎么回事。

GPT-3的火爆，自然引来了纽约大学教授、「著名AI批评家」马库斯的注意。

马库斯的另一位同事Douglas Summers-Stay对此评价道：

GPT很古怪，它并不「关心」你向它提出的问题是否被正确回答。

它更像是一个演员，全神贯注于自己的表演，从不破坏角色，但也只在书本上了解这个世界。

像这样的演员，当它的知识缺失时，它就开始假装它是专业的。

就好比一个扮演医生的即兴演员，其给出的医疗建议你是不会相信的。

不过，马库斯和戴维斯也在文章中提到，他们设计这些测试时，明确这些对于当前的NLP技术而言是困难的。另外，测试包括一些重复的实验，在157个示例中，有71个是成功的，70个是失败的，16个是有缺陷的。

面对马库斯的开喷，有网友认为，这些批评是公正的，也是很多GPT-3相关文章里都讨论过的事实。

但也有网友表示，当他询问GPT-3，为什么它明明知道正确答案，却给出了一个错误回答时，GPT-3回答：「我学会了说谎。」

此外，有网友认为，GPT-3从来就没打算生成正确的答案。在生成连贯的文字方面，它已经做得非常好了。GPT-3的这种进步，显然反映了NLP领域的一种突破。

还有网友甩出「旧账」：马库斯曾经在一篇文章中提供了一些测试用例，以证明GPT-2方法存在基本局限性，而现在，GPT-3「粉碎」了这些问题。

比如，问：我把两个奖杯放在一张桌子上，然后又增加了另一个，总数是？

GPT-3现在能准确且肯定地回答：3。

不像GPT-2的挤牙膏开源，GPT-3「Open」的形式，是以API的方式提供给普通用户使用。

当然，是收费的。

不过，API现在处于Beta阶段，如果你也想试用一番，填写OpenAI官网问卷，没准就能先睹为快。

不过，马库斯也抱怨了，他们申请了好几次，OpenAI都没允许他们访问GPT-3。最后是Douglas Summers-Stay帮助他们进行了实验。

OpenAI缺乏开放性，是在严重违反科学道德，也扭曲了「非营利组织」的目标。

参考链接：https://cs.nyu.edu/faculty/davise/papers/GPT3CompleteTests.htmlhttps://www.technologyreview.com/2020/08/22/1007539/gpt3-openai-language-generator-artificial-intelligence-ai-opinion/https://www.reddit.com/r/MachineLearning/comments/iemck2/n_gpt3_bloviator_openais_language_generator_has/https://news.ycombinator.com/item?id=24244168

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态