机器之心专栏

机器之心编辑部

多智能体代码库 CAMEL，提出了通过角色扮演框架来研究 LLM 智能体的行为和能力。

未来的社会会被通用人工智能（AGI）控制吗？当拥有多个 ChatGPT 智能体会有多可怕。

ChatGPT 已经初步展现了 AGI 的雏形，成为了各行各业工作人员的全能小助手，但如果任由其野蛮生长，不加于管制会不会有一天人类再也无法控制 AGI？意识到这个问题严重性，特斯拉 CEO 埃隆・马斯克、苹果联合创始人史蒂夫・沃兹尼亚克、图灵奖得主 Yoshua Bengio 等人带头签署公开信呼吁停止巨型人工智能实验至少 6 个月。

论文链接：https://ghli.org/camel.pdf

代码库链接：https://github.com/lightaime/camel

项目主页：https://www.camel-ai.org/

ChatBot链接：http://chat.camel-ai.org/

图 1. 角色扮演框架。这里需要人输入的是一个简单的想法（Idea），角色的分配（Role Assignment），比如开发股票交易机器人，可以选择一个 Python 程序员作为助手（AI Assistant），一个股票交易员作为法令者（AI User）。在人类用户输入结束后，任务加工器（Task Specifier）会把任务具体化，比如可以通过对社交网路平台上特定股票进行情感分析，然后根据情感分析的结果进行股票交易。当任务被具体化后，两个基于 ChatGPT 的 AI 智能体开始合作完成任务，比如进行工具的安装和导入。

由于提示工程对角色扮演框架非常关键，因此文章深入探讨了提示技术（Prompt Engineering）。与其他对话语言模型技术不同的是，论文里提出的提示工程仅在角色扮演的开始阶段进行，用于任务规范和角色分配。一旦会话阶段开始，AI 助手和 AI 用户会自动循环提示对方，直到终止为止。因此，这技术被称为 Inception Prompting。

Inception 提示包括三个提示：任务规范提示、助手系统提示和用户系统提示。例如，在 AI Society 场景的初始提示。AI Society 角色扮演的这些提示的模板如图 2 所示。

任务规范提示包含有关角色扮演会话中 AI 助手和 AI 用户角色的信息。因此，任务规范智能体可以使用想象力将初步任务 / 想法作为输入，并生成具体任务。AI 助手系统提示和 AI 用户系统提示基本对称，并包括有关分配的任务和角色、通信协议、终止条件以及避免不良行为的约束或要求的信息。对于实现智能协作，两个角色的提示设计至关重要。设计提示以确保智能体与人类的意图保持一致并不容易。以图 2 中 AI Society 的提示模板的设计例子。

此工作一出便在推特引起大量的转发和讨论：

AI 社会和代码数据集的扮演角色

文中作者展示了如何将角色扮演用于生成对话数据以及研究聊天智能体的行为和能力，为研究对话语言模型提供了新思路。总体而言，本文的贡献包括引入了一种新型的 LLM 智能体交流框架，该框架有潜力促进交流智能体之间的自主合作，此外，该研究还提供了一种可扩展的方法来研究多智能体系统的合作行为和能力。最后作者通过 CAMEL 框架让智能体扮演不同的社会角色，进而对 AI 社会进行了建模，并采集了大量自然语言指令数据集，目前 AI 社会、代码、数学和 AI 社会十种语言翻译等四个数据集已经可以在 HuggingFace 进行下载：