梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI

大模型天花板GPT-4，它是不是……变笨了？

先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。

这下官方也坐不住了。

OpenAI开发者推广大使Logan Kilpatrick，出面回复了一位网友的质疑：

API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。

但是截至目前，针对网页版GPT-4是否被降级过的两条追问都没有得到回答，并且Logan在这段时间有发布别的内容。

那么事情究竟如何，不如自己上手测试一波。

对于网友普遍提到GPT-4写代码水平变差，我们做了个简单实验。

3月底，我们曾实验过让GPT-4“炼丹”，用Python写一个多层感知机来实现异或门。

回答的文字部分质量也未观察到明显下降，但响应速度感觉确实有变快。

由于时间有限，我们只进行了这一个实验，且由于AI本身的随机性，也并不能否定网友的观察。

我们在OpenAI官方Discord频道中搜索，发现从4月下旬开始，就不时有零星用户反馈GPT-4变差了。

在Twitter上较早提出这个问题的，是HyperWrite（一款基于GPT API开发的写作工具）的CEO，Matt Shumer。

假设真如OpenAI所说，GPT-4模型本身的能力没有变化，那么这么多人都感觉它表现变差是怎么回事呢？

很多人也给出了自己的猜想。

第一种可能的原因是心理作用。

Keras创始人François Chollet就表示，不是GPT的表现变差，而是大家渡过了最初的惊喜期，对它的期待变高了。

Hacker News上也有网友持相同观点，并补充到人们的关注点发生了改变，对GPT失误的敏感度更高了。

量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。

△不一定成功，大概率拒绝回答

那么如果在网页版继续一个在iOS版开启的对话而没意识到，就可能观察到GPT-4回答变简单了。

总之，GPT-4自发布以来到底有没有变笨，目前还是个未解之谜。

但有一点可以确定：

3月14日起大家上手玩到的GPT-4，从一开始就不如论文里的。

微软研究院发表的150多页刷屏论文《AGI的火花：GPT-4早期实验》中明确：

他们早在GPT-4开发未完成时就得到了测试资格，并进行了长期测试。

后来针对论文中很多惊艳例子，网友都不能成功用公开版GPT-4复现。

目前学术界有个观点是，后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。

论文作者之一、微软科学家张弋在中文播客节目《What’s Next｜科技早知道》S7E11期中也提到：

那个版本的模型，比现在外面大家都可以拿得到的GPT-4还要更强，强非常非常多。

举例来说，微软团队在论文中提到，他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。

论文中展示的最后一个结果，画得已经相当完善。

但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。

后来当OpenAI开始关注安全问题的时候，后续版本在这个任务中变得越来越糟糕了。

与人类对齐但并不降低AI自身能力上限的训练方法，也成了现在很多团队的研究方向，但还在起步阶段。

除了专业研究团队之外，关心AI的网友们也在用自己的办法追踪着AI能力的变化。

有人每天让GPT-4画一次独角兽，并在网站上公开记录。

从4月12日开始，直到现在也还没看出来个独角兽的大致形态。

当然网站作者表示，自己让GPT-4使用SVG格式画图，与论文中的TikZ格式不一样也有影响。

并且4月画的与现在画的似乎只是一样差，也没看出来明显退步。

最后来问问大家，你是GPT-4用户么？最近几周有感到GPT-4能力下降么？欢迎在评论区聊聊。

Bubeck演讲：https://www.youtube.com/watch?v=qbIk7-JPB2c张弋访谈：https://xyzfm.link/s/UfTan0每天一个GPT-4独角兽https://gpt-unicorn.adamkdean.co.uk

参考链接：[1]https://news.ycombinator.com/item?id=36134249[2]https://twitter.com/nabeelqu/status/1663915378265800705[3]https://twitter.com/OfficialLoganK/status/1663934947931897857[4]https://discord.com/channels/974519864045756446/1001151820170801244[5]https://twitter.com/mattshumer_/status/1663744527448829954[6]https://www.reddit.com/r/ChatGPT/comments/13xik2o/chat_gpt_4_turned_dumber_today/[7]https://help.openai.com/en/articles/6825453-chatgpt-release-notes[8]https://twitter.com/fchollet/status/1664036777416597505[9]https://news.ycombinator.com/item?id=36155267

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态