全球首个智能体文明的崛起

机器之心报道

编辑：Panda、蛋酱

现实世界中，特朗普和哈里斯正在积极准备今年底的美国第 60 届总统选举，而在《我的世界》中，他们的自主式数字模拟人也正在积极争取村民的支持。

在这个数字平行世界中，数字公民可以拥有一部共享的宪法，并且他们还可以投票修改。

在特朗普治下，村民们投票增加了守卫的数量；而在卡玛拉治下，村民们选择通过司法来解决霸凌问题以及废除死刑。

这些描述来自 AI 创业公司 Altera 的创始人 Robert Yang 分享的一段视频。在这段视频中，他们宣称在《我的世界》中造出了世界上首个智能体文明（Agent Civilization）！该视频浏览量现已达到 51.4 万。

据介绍，这个智能体文明（Project Sid）中包含 1000 多个自主智能体。他们在《我的世界》中构建了自己的经济、文化、宗教和政府。

比如经济方面，这些智能体构建起了自己的交易体系。他们建立了一个市场，并且一致决定使用宝石作为共同货币。而他们的经济活动还出现了一个意料之外的有趣结果：交易最多的竟不是商人，而是神父，因为他在通过贿赂村民来诱使其改变信仰。一个或许更有趣的小细节是这位神父正在给智能体们传播飞天面条神教。

而在社会方面，这些智能体互相关照彼此的行为可能让不少人类都自愧不如。当某个村民失踪了，其他村民会离开自己的工作岗位，合作起来将村庄点亮，希望能为迷路的村民提供指引。

另一个值得关注的亮点是这 1000 多个智能体并不是千篇一律的模板人物，而是每一个都有自己的个性和记忆。比如有一位名叫奥利维亚的农民，她的工作是为这个数字文明提供食物，直到某天她受到一个冒险故事的激励，决定独自去远方旅行。最终在村民的劝说下，她暂时搁置了这个想法。

这里可以看到，村民们与奥利维亚的对话是使用自然语言通过《我的世界》自带的聊天系统进行的，而不是传递结构化的数据参数，这也使得这些智能体与人类更像了。

除了奥利维亚、特朗普、卡玛拉和神父，这个智能体文明中还有管理者、工人等其它各式各样的人物。

此外，用户也可以在 Altera 的官网创建自己的智能体，而且整个过程相当简单，只需通过聊天向其描述你想创建的智能体的特征即可。

机器之心做了一番尝试，在十分钟内就创建了一个性格古怪的智能体：她是人类，但相信自己是机器人，并且有一只名叫「狗」的橘猫，她还是图书管理员，喜欢吃披萨。

目前在其官网上已经拥有不少用户创建的智能体，一些受欢迎的包括交警 T-2000、强势老板 Elon、贴心朋友 Hermione 以及总是开心快乐乐于助人的海绵宝宝。

拥有《我的世界》游戏的用户只需下载该公司的启动器就能在自己的设备上尝试这些智能体。

该项目一上线就吸引了广泛关注，反响热烈，有人表示：「可以想见，如果能更大规模地构建这样的虚拟世界，那就有可能将我们真实世界遇到的社会问题建模后放到其中进行测试。这样一来，我们可以在颁行某个政策之前先通过 AI 模拟来测试它的效果，其所具备的潜在价值着实难以想象。」

但也有人调侃地说这就像是一个小型的「西部世界」或《瑞克与莫蒂》中的人生体验游戏《Roy》，我们就像是在扮演上帝。

不管怎样，这都是一个颇具开创性的 AI 应用。下面我们来看看其背后已知的技术细节和团队信息吧。

技术创新

首先我们来看看 Robert Yang 对自主智能体（autonomous agent）的定义，他分享到自主智能体应具有以下特性：

1. 长期自动化：可以自动运行数小时或数天（而不只是单纯的函数调用）；

2. 组织化：可以协作完成个体无法单独完成的任务（而不是一千个智能体有一千个目标）；

3. 以人类为导向：内心有深沉且稳健的动力来帮助人类（而不只是遵从指令）；

4. 有意识地交流：可以口头表达它们的有意识想法和感受（而不仅仅是基于语言的机器人）。

Altera.AI 在博客中介绍，为 Project Sid 开发智能体的过程中，团队采取了许多措施来提高其社交能力、意识和内部心理过程。

其中一个主要方面就是对话。与人一样，智能体之间的谈话内容不仅取决于它们之前说过的话，还取决于它们之间的关系。为了实现逼真的对话，团队在智能体行为中建立了社会世界模型。特别是，智能体会形成并更新它们对其他智能体的模型 —— 行为、观点和需求，并利用这些信息在社交环境中进行交谈和行为。其次，与人一样，智能体也应该能够出于多种原因进行交谈，透露自己的意图、闲聊、分享自己的希望和梦想。团队建立了一套对话模块，在某些情况下，可以让它们的言语与其行动和意图保持一致，而在其他情况下，则可以让它们谈论脱离现实的想法。

另一个重要方面是强大的目标和意图管理，团队通过有组织的心理过程来解决这个问题。这些过程应支持智能体的社会行为和决策制定，同时考虑到正在发生的事件和活动。例如，为智能体提供了追踪正在进行的活动并将这些事件整合到简明记忆中的能力。这些新增功能对于减少无休止的行动循环至关重要，而这正是智能体长期以来面临的一个问题。还有一个例子是通过使智能体能够灵活调整其行为来处理目标。为了解决这个问题，团队赋予了智能体丰富的精神生活，这种精神生活与即时的感官和运动反应是分离的。在这种精神生活中，智能体可以进行推理、思考，并生成或改变其目标，以适应瞬息万变的环境。

挑战

实现 Project Sid 的过程中面临着各种挑战，尽管上述创新解决了一些难题，但仍有许多难题存在。

第一个问题是如何为文明设定基准。在 Minecraft 中，团队使用了技术 / 工具进步、贸易活动、健康状况和协调 / 协作任务来衡量社会进步。虽然每种方法都能捕捉到社会的某些方面，但单纯地优化某一社会方面可能会导致其他方面的不足。

举个具体的例子，目标驱动的自主性和协作性之间可能存在矛盾。至少在目前所考虑的规模上，在交流较少和高度目标驱动型智能体的情况下效果最佳。但是，如果智能体过于偏重于完成自己的目标，那么它们就会在需要灵活、动态目标设定的协作任务中失败。因此，团队提出了一种解决方案，即允许智能体在关注社会影响和动机的同时，保持其内部目标驱动力。

另一个挑战是局部行为和互动对全局行为的敏感影响。单个智能体行为中的一个微小缺陷都会被任何社会规模基准下游检测到。例如，在 queen 将任务（如制作铁镐）分派给 manager，manager 再分派给 worker 的情景中，要想取得成功，就要求每个成员都能有效地沟通目标，并将责任分派到社会层级的上上下下。单个成员的沟通失败将导致一连串的问题，逐渐偏离最初的集体目标。

模型方面，他们采用的架构是 Systems Neuroscience Composite Architecture，即系统神经科学复合架构。这是一个系统的系统（a system of systems），与人类大脑类似，其中不同的子系统负责执行不同的任务。

Altera 表示，复合式 AI 架构正在变成构建智能体的主流方式，但要构建和训练具有同理心、记忆并遵守社会规范的智能体，难度依然非常大，对多智能体设置来说尤其如此。

下图简单展示了其智能体的工作流程以及前额叶皮质的信息图谱 —— 毕竟人脑是唯一经过检验的人类水平的智能体模型。

更多的创新想法，团队表示，会在九月内发布的论文中介绍。

简而言之，Altera.AI 的观点是，智能体需要具备基本的人文素质，才能实现丰富的社会动力和文明建设。随着提高智能体的本地互动质量，文明的质量也会相应提高。一旦到达临界点，就会出现一个阶段性转变，就像足够庞大的语言模型涌现出的一致性一样，智能体文明不仅会自我维持，而且会自我完善。

辞去 MIT 终身教职，他选择创业

Project Sid 背后的团队是 Altera.AI，一家成立半年左右的公司。

现任 CEO、联合创始人 Robert Yang 曾是 MIT BCS 和 EECS 教授、MIT MetaConscious 小组负责人。

去年 12 月，Robert Yang 关闭了实验室，且辞去了在 MIT 的终身教职，创办了这家公司。

年初，Altera.AI 筹集到了 200 万美元的 Pre-Seed 轮融资，由 Andreessen Horowitz 领投。三个月后，又筹集了 900 万美元的种子轮融资，领投方包括谷歌前 CEO Eric Schmidt 的 First Spark Ventures、Patron VC 和 Mitch Lasky、Bob Meese、Stephen Lim 等。

目前，Altera.AI 的团队规模不算大，主要成员由来自麻省理工学院 EECS、斯坦福 NLP 小组、Google X、Citadel、Supercell 等的计算神经科学家、物理奥林匹克专家和工程师组成。

Altera.AI 目前是一家应用研究实验室，正在开发其首批游戏产品，第一个数字人产品是可以和用户一起玩 Minecraft 并且始终在线的朋友。

Altera.AI 表示，那些在游戏中解决的科学问题，包括连贯性、长期自主性和进步、协作、情景记忆等，必将超出游戏的范畴，扩展到多智能体模拟、多智能体劳动力，并最终实现数字智能的物理体现。