机器之心原创

机器之心编辑部

数据、算法、算力条件都接近顶配，「天工」交出了一份怎样的答卷？

国内的类 ChatGPT 赛道，又来了一个重量级玩家。

4 月 17 日，新⼀代大语言模型「天工」正式开启邀请测试。该模型由昆仑万维与奇点智源联合研发，是国内首个对标 ChatGPT 的双千亿级大语言模型。

不管是文学创作还是商业文案写作，「天工」都是可以的。比如最近机器之心在招人，就请它帮忙写了一篇招聘广告文案：

再试一试读后感和演讲稿的写作：

职业能力测验

至此，考验「天工」的题目难度还可以再增加。很多人都知道，国内有三个公认相当难考的考试：全国公务员考试、国家司法考试、注册会计师考试。鉴于近期有很多大模型开始挑战职业能力测试，机器之心也找来了几道例题，向「天工」提问。

第一道是全国公务员考试的行测真题：

第二道是司法考试刑法部分真题：

第三道是注册会计师考试的财务成本管理真题：

相信在以上测试案例之后，你已经对「天工」的能力有了清晰的感知，想必对背后的技术也会感到好奇。

解密「天工」

自去年 11 月以来，OpenAI 的 ChatGPT 引领了科技领域新一轮技术竞争。在语言大模型（LLM）领域内，很多国内科技公司有长期的技术投入，正在逐步跟进推出对标 ChatGPT 的产品。

在这样的压力下，想要出彩不是一件容易的事。「天工」能力的涌现，凭借的是什幺？

据昆仑万维介绍，「天工」超强的⽂本处理和⽣成能⼒得益于其强⼤的算⼒、算法和模型实⼒。

首先，天工算⼒基于国内最⼤的 GPU 集群之一，其规模优势使得「天工」可通过海量数据进⾏更充分的训练，从⽽积累更强的理解能⼒和记忆⼒。

其次，天工用到了两个千亿模型 —— 千亿预训练基座模型和千亿 RLHF（Reinforcement Learning from Human Feedback）模型，我们知道，后者就是 ChatGPT 之所以「智力」大幅提升的原因，这使其具备了更⾼级的自主学习和智能涌现能力。

此外，天工还加入了蒙特卡洛搜索树算法，让天工在复杂任务和场景中能够快速且准确地响应指令，输出高质量回答。这也是它可以让人感受到足够「通人性」的关键原因之一。

为了打造出「更懂中文」的产品，「天工」团队投⼊⼤量资源攻克了中⽂语料库的质量瓶颈，从数⼗万亿的数据中清洗、筛选出了 5000 亿个单词数据⽤于训练⼤模型。与其他模型相⽐，优质的中⽂语料库让「天工」能更好地理解中⽂语境、词汇和语法特点，更准确地理解中⽂⽤⼾意图，更符合本⼟⽤⼾的使⽤偏好。

大型语言模型的筑成，有它本身的技术门槛，绝非一日之功。这也是为什幺如今「打造又一个 OpenAI」、「赶超 GPT-4」等言论众多，但真正有潜力或已经演化为产品级应用的成果却相对稀缺。

能够率先交出「天工」这一份答卷，是因为昆仑万维对于 AI 领域的深耕在数年前就已开始。昆仑万维从 2020 年开始布局 AIGC 领域，「天工」⼤模型的诞⽣，也是这些年长期积累的结果。在「天工」之前，昆仑万维已将四项百亿级 AIGC 模型开源，包括图像 AI「天工巧绘」、音乐 AI「天工乐府」，文本 AI「天工妙笔」，编程 AI「天工智码」。

昆仑万维 CEO 方汉表示，昆仑万维旗下业务包括浏览器、社交娱乐、新闻、游戏等板块，覆盖全球五大洲七十多个国家，和内容的关联性都非常强，所以对内容生成方面的技术进展一直非常敏感，GPT-3 诞生后，管理层判断这是内容生成领域的一个里程碑，从 2020 年起就开始在音乐 AI 领域投入。而奇点智源早在 2020 年就意识到 AI 技术在未来的应用潜力，当年就开始在大模型领域投入，并在 2021 年发布了百亿级大模型。

到了 2022 年，昆仑万维开始从音乐 AI 往多模态 AI 拓展，而只有自研千亿级大模型，才能建立核心壁垒、掌握主动权。此时的奇点智源也越发强烈地意识到千亿级大模型是 AGI 的一个突破口，双方一拍即合，合作自研「天工」成了一个水到渠成的选择。

放眼大模型赛道的未来，多模态预训练大模型将成为必争之地。这也是「天工」进化的必经之路。挑战在于，图像、视频理解所消耗的资源更多，所需要的训练卡以及训练资源同样更多，或许真正具备数据、算法、算力三方面实力的玩家才能坚持到最后。

对于「天工」的未来，你有哪些期待？