在刚刚发布的GPT-4中，它相比之前的版本，都更新了什么呢？这些更新将会带来什么影响？本文作者从产品的角度，对这两个问题进行了分析，一起来看一下吧。

GPT-4有两个大版本，一个是8K，一个是32K，分别是ChatGPT上下文长度的2倍和8倍。

更长的上下文是否对长文本写作（例如写一篇2W字的科幻小说）带来更强的帮助尚未可知（作者本身很不幸还用不上）。

但很明确地对长文本理解场景是一种跨越式升级。什么是长文本理解场景呢？

例如传入一篇Paper做理解（摘要、问答），例如对保险条款进行解读，答疑，例如支持搜索引擎（搜索引擎即使只返回10个结果，把每个结果背后的内容加起来也会远远超出原本的4K上下文token限制）。

你可能会问——那以前这些都实现了啊，有什么不一样呢？

我先快速简单地介绍一下以前的原理（写到这里发现和多模态真的好像，LLM不支持的，总有各种方法强行支持）。

第一步，有长文本，很明显超出4Ktoken的限制，那么我就将长文本进行切割，切成若干短文本，这里的切割方法一般是按照文档的结构（也有按语义，但效果不是特别好）。结构例如PDF文档中自带的结构信息（原始信息里有），或者网页中的字体大小，段落等。

第二步，你提一个问题，我根据你的这个问题（通常较短，我们专业的说法叫query），去检索出相关的若干短文本（我们通常叫Doc）。这里的检索就不是我们一般理解的关键词匹配，文本编辑距离这种。他是将文本映射成为向量，然后在向量空间中求他们之间的相似性，即所谓的语义搜索。

第三步，我将语义搜索出来最相关的若干个片段和问题一起拼接起来，提供给ChatGPT。例如“这是一些相关的信息：xxx/xxx/xxx/xxx，请基于这些信息回答这个问题：重疾险的保障范围是否包括心脏病？”

OK，介绍完成——你会发现长文本的理解诉求是一直都在并且非常强烈。

而GPT-4的上下文突破一方面会颠覆一般长文本的过往流程（低于2W字的你都不用切了）。

另一方面对于仍旧超长（大于2W字）也会带来体验提升。首先在切块的选择上（不用切那么细，避免切错丢掉上下文），其次语义相关内容块的数量上（以前受限4K只能找4个相关内容，现在你可以多喂他几块了）。

不过——这个改变会受到成本的制约，也不一定那么快。

GPT-4的能力比ChatGPT更强大是很容易预期的。不过更详尽的能力边界还需要广大的用户进行测试体验（非常期待）。

用这个例子带大家感受一下：解释灰姑凉的故事，每个单词按A~Z开头，不能重复。

这个是ChatGPT的输出：

另一个值得关注的点是，OpenAI在大量考试中测试了GPT-4的性能——显然他会比ChatGPT更好，但值得注意的是，附带视觉理解的GPT-4在某些学科上的表现比不具备视觉理解能力的GPT-4表现更好！

这也验证了我们之前的猜测——视觉理解能力不仅仅是一个能力，它本身就会帮助LLM更强大。

明显OpenAI也是痛苦许久，所以他们开放了他们的测试标准OpenAI Evals。里面一方面预制了大量标准的测试集，另一方面也支持自定义上传。

另外一个有意思的是——这就是行业标准哦，并且看起来基本这个标准没人能掀翻了。果然是一流的企业定标准，666。

这个东西对LLM本身是非常重要的，并且也有一定可能影响到应用层，我想来想去还是给了4星。

LLM除了他自身能力以外，更重要的是他的扩展性。

即我知道你在现在提供的这些领域表现很好，但如果我是一个垂直的领域，例如代码、法律、金融等，我需要用垂直数据来定向微调你的模型以适配我的业务。

那么——我作为一个训练LLM的企业（如OpenAI、Google），我怎么知道我的LLM扩展性好不好呢？难道我每次开发一个新版本都针对几百个垂直领域微调一下试试看吗？

他目前在千分之一计算量（用同样的方法训练）的基础上实现了扩展性的预测。

换句话来说，我可以用100%的算力做一个模型出来，然后再用100%算力验证他在1000个领域的可扩展性——这就使得LLM的泛化能力成为一个在成本上可实现的度量指标。

这个东西应该也属于OpenAI Evals的一部分，但我觉得很重要，所以单独拆出来说了。

以后企业选择LLM厂商的时候，很可能通过这种小规模的测试先验证对比每个LLM的性能，再从中选择。而可扩展性也将成为LLM在未来非常重要的一个指标。

最后，请大家测试的时候不要测试数学题了，没意义的哈。

LLM模型本身不理解任何逻辑，他只是在不停地猜单词。即使你问他1 1=？，他答对也不过是因为历史数据让它强烈预测答案是2而已，并不是他真正具备推理能力。

好好珍惜你们的GPT-4体验时光（来自一个体验不到的作者的悲鸣）。

Davanci 的价格是0.02美元/1000token（约750英文单词，500汉字）。

GPT-4 8K版本输入端（问题 提示 上下文）0.03美元，生成端（回答）0.06美元，小幅涨价；

GPT-4 32K版本，输入端0.06美元，生成端0.12美元！

而3月1日发布的ChatGPT-turbo 0.002美元……

所以长文本的使用场景可能暂时不会突破到搜索、垂直领域问答、论文阅读等领域，价格飚太高了实在。

但他会杀入高价值的且逻辑复杂的场景，我目前暂时能想到的就是医学文本、金融文本、法律文本的理解整理、分析。

如果你只是用它写写营销文案、周报，还是乖乖用ChatGPT-turbo吧。

前文是一个极具震撼的例子（基于一张图直接生成网页代码）。

我随口还可以举N个例子：

我现在熬夜，脑子转不过来，相信屏幕前的你肯定还有更厉害的想法。

但是切记牢记，LLM是真正理解图像，不要用以前那种图转文的视角去看待他，否则你会错过很多应用层的机会。

——不过，OpenAI目前还未开放图片输入，他还在和他的合作伙伴做内测，所以哈哈，也不用太焦虑。

我之前和一个朋友聊多模态的趋势，他不以为然，说不如聊点接地气的。

我这里第N次重申，多模态对目前所有的交互端的改变都是非常非常非常强烈的！例如微软所说——如果你体验过新版的Edge浏览器，那你就已经体验过GPT-4了。

在目前所有的交互端，包括PC、手机、车载屏、智慧大屏、音箱、手表、VR等，都会因为多模态LLM迎来全新的变革。

目前我们看不到的核心原因在于：

第一，国内LLM都还没上线，而手机厂商、语音音箱等往往是二线厂，目前都处于不甘心要自研的阶段，即使头部云厂商（如百度）做出来了也不一定会马上用。

第二，国外更是如此，主流的安卓系（Google），苹果都不会甘心向微软系低头认输。

所以我们现在暂时只看到PC端 Windows的变化，但是很快，在今年内，所有交互端都会陆续发生改变。

我不是在写科幻小说，这是真的、马上、即将要发生的未来！

我提交了GPT-4的waitlist，不过毫不期待。

OpenAI的 GPT-4不会再大面积免费开放了（付费ChatGPTPro可用），他们已经通过ChatGPT获得了足够的数据（这些数据重点在于——用户到底会有些什么奇怪的问题）。

我们把GPT-4这个故事，和之前的OpenAI私有化部署消息连接在一起去看。他必将有选择地挑选合作伙伴，并利用实施的沉没成本和更强的技术效果实现生态绑定。

在国内百度其实也是类似的，他的首轮开放目前我听说也不会是2C（毫无根据的瞎说，下午见分晓），同样也是走2B生态合作绑定的路子。

你再和OpenAI开放测试标准这个点结合在一起看，为什么要提供标准？因为他要证明，市面上的都是垃圾，什么单机就能跑LLM，什么追平GPT-3体验效果都是胡扯。

不要说这些虚头巴脑的，API调一下，直接用我开源的标准来比较，是骡子是马拉出来溜溜。为了巩固这种优势，甚至他连可扩展性测试这么玄虚的指标都弄出来了，就是为了树立自己在技术效果上牢不可破的优势。

本文由@马丁的面包屑 原创发布于人人都是产品经理，未经许可，禁止转载。

题图来自 Unsplash，基于 CC0 协议

该文观点仅代表作者本人，人人都是产品经理平台仅提供信息存储空间服务。