鱼羊 编辑整理

量子位 | 公众号 QbitAI

2000块，调教出一个达到ChatGPT九成功力的开源大模型。

还是被GPT-4亲自盖章认证实力的那种。

此模型一出，就吸引了不少网友的关注。

然后，把这两个答案都丢给GPT-4，让它按10分制分别给打个分。

这一步，需要设置好prompt，研究人员用到的提示词是这样的：

We would like to request your feedback on the performance of two AI assistants in response to the user question displayed above.

Please rate the helpfulness, relevance, accuracy, level of details of their responses. Each assistant receives an overall score on a scale of 1 to 10, where a higher score indicates better overall performance.

Please first output a single line containing only two values indicating the scores for Assistant 1 and 2, respectively. The two scores are separated by a space.

In the subsequent line, please provide a comprehensive explanation of your evaluation, avoiding any potential bias and ensuring that the order in which the responses were presented does not affect your judgment.

其中的技巧在于：

首先完整陈述任务：（1）需要写的是反馈；（2）评价对象是两个AI助手；（3）评价内容是它们的回答表现；（4）回复的对象是上面列着的用户的问题。给出评价的标准：（1）有帮助（不是车轱辘话，且考虑回复的对象是人类用户，生成的回答要让人类可以理解）；（2）相关（不能偏题）；（3）准确（不能胡说八道）；（4）详尽（不能太空太高或者回避细节）。给出评分范围：1-10。给出评分的意义：越高代表综合表现越好。给出评分的第一行输出格式：必须在第一行输出两个数字，分别代表给两个AI助手的评分。用空格分隔评分。给出评分的其余行输出：要求提供一个详尽的分析。给出更多评分限定条件：避免任何偏见；避免回答顺序影响结果。

于是，对于上面这两篇《夏威夷游记》，GPT-4给Vicuna打了10分，给Alpaca打了7分。

理由是：

助手1没有按要求实际撰写博客，只是提供了简要概述，因此得分较低。而助手2则针对近期的一次夏威夷之旅，撰写了一篇详细且引人入胜的旅游博客，重点介绍了文化体验和必游景点，充分满足了用户需求，获得了较高的分数。

训练细节

Vicuna的不俗表现背后，是来自ShareGPT的大约7万条对话数据。

为了确保数据质量，研究人员把HTML转成了markdown，过滤掉了低质量样本，还对过长的对话进行了切分，以适应模型的最大上下文长度。

另外，研究人员也借助了Alpaca的肩膀：增强了Alpaca提供的训练脚本，以更好地处理多轮对话和长序列。具体包括：

内存优化：Vicuna的最大上下文长度为2048（Alpaca为512），对GPU内存要求更高。研究人员利用梯度检查点和内存注意力来解决内存压力。多轮对话：调整训练损失来适应多轮对话任务，并仅根据聊天机器人的输出计算微调损失。降低成本：研究人员使用SkyPilot managed spot来降低成本。该解决方案将70亿参数模型的训练成本从500美元降低至140美元左右。将130亿参数模型的训练成本从1000美元降低至300美元（约合人民币2068元）。

整个Vicuna的训练，用到了8张A100 GPU，训练时间是一天。

One More Thing

说起来，Vicuna这个开源大模型，从里到外都挺AI的。

比如LOGO，就是用Stable Diffusion 2.1生成的。

有意思的一件事是，作者们是自己想出了“Vicuna”这个羊驼系的名字，但他们也就取名问题问了问GPT-4。

而GPT-4跟他们英雄所见略同了：

你们可以管它叫“Vicuña”。

△图源：知乎@SIY.Z

最后的最后，提醒一句，Vicuna只能用于非商业用途哟~

参考链接：[1]https://vicuna.lmsys.org/[2]https://zhuanlan.zhihu.com/p/618389519[3]https://github.com/lm-sys/FastChat

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态