国际科技财经移民娱乐民生时事体育

>

AI Agent满级进化！骑马种田、办公修图，样样精通，昆仑万维等发布通用Agent新框架

AI Agent满级进化！骑马种田、办公修图，样样精通，昆仑万维等发布通用Agent新框架

5月前

新智元报道

编辑：好困

【新智元导读】智能体又双叒叕进化了！这次，什么游戏都能玩，什么软件都能操控了。

近日，昆仑万维携手北京智源人工智能研究院、新加坡南洋理工大学、北京大学等顶尖名校机构，联合提出了迄今为止第一个既能玩多种商业游戏又能操作各种软件应用的AI框架——Cradle。

在这个全新的通用计算机控制框架加持下，AI Agent无需训练便能像人一样直接控制键盘鼠标，不依赖任何内部API，实现任意开闭源软件交互。

目前，Cradle的论文、项目、代码均已开源。

论文地址：https://arxiv.org/abs/2403.03186

项目主页：https://baai-agents.github.io/Cradle

代码链接：https://github.com/BAAI-Agents/Cradle

Cradle：真正的全能AI Agent

在游戏中，Cradle不仅能在《荒野大镖客2》里完成长达40分钟主线剧情还能在开放世界自由探索。

在《星露谷物语》里清理农场，种地，去商店购物。

在《城市天际线》中建造出千人小镇。

甚至，还能在《当铺人生2》中和客户讨价还价，并实现最高87%的周收益率！

不仅如此，发推、浏览网页、下载论文，Cradle是样样精通。

撰写、回复、查找邮件也不在话下。

此外，Cradle还能在美图秀秀里修图。

在剪映里剪视频。

在飞书里日常办公。

堪称是一个真正的全能AI Agent。

GCC：通用计算机控制

随着大模型的发展，越来越多的智能体（AI Agents）研究关注计算机控制，包括浏览网页、操作智能手机、玩游戏等。

然而，已有研究依赖软件内部API获取输入，并输出预先定义好的动作，无法真正像人类一样通过眼、脑、手的配合操控计算机。

要构建能完成计算机上一切任务的通用智能体，必须使用最通用和最标准的输入输出与计算机进行交互。

因此，通用计算机控制使用统一的输入和输出，从而让智能体的通用性变为可能。

但通用性带来了操作上的难度：

（1）使用计算机屏幕作为输入对智能体的视频理解能力提出了更高的要求，例如由于没有内部API，需要通过视觉信息判断动作是否执行成功；

（2）使用键盘和鼠标操作作为输出使得智能体需要更高的时空操作精度，比如键盘按键和鼠标点击通常额外涉及时间维度；

（3）许多计算机上的复杂任务往往需要连续执行成百上千次的正确操作才能完成，是智能体的长程规划决策和历史信息维护处理能力的一大挑战；

（4）虚拟世界中多如繁星的环境和任务是对智能体高效探索并自我提升实现通用性的一大考验。

这些难题成为了构建通用计算机控制智能体（GCC Agents）的挑战。

六大模块，三大环节

Cradle一共由6个模块组成：信息收集、自我反思、任务推断、技能管理、行动规划，以及记忆模块。

Cradle高度的通用性，来源于其对和电脑交互过程中的原始输入输出的合理封装和抽象。

以从屏幕中显示的视频图像作为输入，提取其中的文本和视觉信息进行决策，并且输出最底层的操作系统中控制键盘和鼠标的信号去和电脑交互，使其可以不依赖于任何假设和任何内部API进行交互。

同时，Cradle强大的决策推理模块让其得以自发和软件进行交互并且完成任务，这个过程可以被简单地总结为：反思过去，总结现在，规划未来。

反思过去：Cradle使用执行过往动作过程的视频作为输入，分别提取出其中关键的文本和视觉信息，通过反思来判断上一步动作是否执行成功任务是否完成以及如何改进。

总结现在：反思完之后，Cradle需要总结当前情况，并且以此为根据来决定是否更换任务目标或是修改任务内容。

规划未来：最后Cradle会根据当前任务以及现状生成或者更新自身的技能，并且从已经学会的技能中检索一部分和当前任务相关的技能作为备选，然后从中选取合适的技能实例化为动作去执行。

在决策推理的同时，Cradle还会周期性地总结和维护储存在情境记忆中的历史信息以及储存在周期性记忆中的技能。

在此过程中，Cradle为其添加了记忆，总结和反思的功能，进一步提升了其对于决策过程中的观察和行为的理解。

Cradle能直接根据游戏内的提示和教程或是自我探索的方式生成对应的操作键鼠的可执行代码作为技能，一步步丰富自己的技能库，并在之后的游戏中重复使用这些技能。

游戏办公全精通

为了验证Cradle的通用性，研究者们选择了4款风格迥异，操作各不相同的经典游戏进行测试——

从第三视角的3D角色扮演类游戏《荒野大镖客2》到2D固定视角的模拟经营类游戏《星露谷物语》到俯视角的城市规划类游戏《城市天际线》再到侧重交易策略的模拟经营类游戏《当铺人生2》，并分别设计了不同的任务。

在通用软件方面，Cradle团队也同样选择了5款常用软件进行测试，包括Chrome、Outlook、CapCut（剪映）、Meitu（美图秀秀）和Feishu（飞书）。

首先，Cradle能够胜任游戏中的各种任务：

在《荒野大镖客2》的主线剧情以及开放世界中均有出色表现，能够连续完成长达40分钟的2个完整主线任务，骑马、战斗、购物样样在行。

在《城市天际线》中修路、保障水电供应，合理划分居民、商业和工业区，建立起千人小镇；
在《星露谷物语》中清理农场杂物、种地收获作物、购买种子；
在《当铺人生2》中在和客户讨价还价近2轮后以93.6%的交易成功率达成了平均39.6%的周收益率。

表1：Cradle在各游戏中的表现，所有任务均测试5次，4/5表示5次测试中成功4次

其次，Cradle在日常软件应用的各项任务执行上表现不俗，如论文下载、发邮件、修图、剪视频、发送飞书文件等。

同时，Cradle在非常有挑战性的benchmark OSWorld上也同样击败了使用真值作为标签的基线方法。

表2：Cradle在OSWorld各类任务上的成功率（%）以及和基线方法的对比

最后，Cradle也同样击败了众多常见基线方法，证明了框架各个模块的合理性和必要性。

表3：Cradle和各种基线的对比的消融实验，所有任务均测试5次，括号前数字表示完成任务的平均步数，括号中数字表示5次测试中成功的次数，N/A表示5次全部失败

通往AGI之路

此前，大量关于AI智能体的研究都依赖于计算机内部API的信息获取，无法让AI真正「像人类一样」通过眼、脑、手的配合与计算机进行互动，其环境、行为、动作都相对固定，难以实现跨软件、跨平台的通用智能。

Cradle极大程度地扩展了智能体可以交互的范围，并且证明了将一切软件转化为测试智能体不同能力的testbed的可能性。

它所提出的通用计算机控制的设定统一了输入输出的接口，促进了统一粒度数据的搜集，为未来Agent在各个环境中交互并且自我提升打下了坚实的基础。

面向数字世界的通用人工智能，正在加速到来。

参考资料：

https://arxiv.org/abs/2403.03186

微信扫码关注该文公众号作者

来源：新智元

相关新闻

AI早知道｜夸克上线大模型新产品“AI PPT”；昆仑万维首款 AI 游戏即将发布测试从文字模型到世界模型！Meta新研究让AI Agent理解物理世界昆仑万维发布全球首款AI短剧平台SkyReels，AIGC业务矩阵再升级十年磨一「图」，谷歌震撼发布纳米级人脑图谱！AI加持人类大脑研究浙大发布Agent学习框架，13B 模型达到 ChatGPT 水平！ICLR 2024 | 图领域首个通用框架！任意数据集、分类问题都可搞定！华盛顿大学&北大&京东出品「代理人战争」！微软、OpenAI 、谷歌、Meta用AI Agent疯狂搞钱图领域首个通用框架来了！入选ICLR'24 Spotlight，任意数据集、分类问题都可搞定｜来自华盛顿大学&北大&京东 AI院士评选大瓜！图灵三巨头、贾扬清等38人当选NAAI终身院士，却无从查证！岚图华为官宣智驾新车，还有最高效800V、5C超充、AI大模型发布苹果最贵最强iPad发布！首发M4芯片，AI性能提升60倍，满配售价近3万！新！美国《2024年人工智能图景》发布，重点关注AI对高等教育的综合影响！传微软组建新团队开发更小、更便宜AI模型；Pika联手北大斯坦福开源文生图框架；传和硕独家拿下Ai Pin代工订单丨AIGC日报关于 RAG、AI Agent、多模态，我们的理解与探索华为专家：你管这破玩意叫 AI Agent？！妙鸭之后，另一个现象级的 AI 修图软件火了昆仑万维：AI时代的实干家万亿级AI新市场，中国企业还能“卷”赢吗？第一本给程序员看的AI Agent图书上市了！英伟达专家分享AI Agent最新开发经验！（专业长文，建议收藏）三星首款 AI 手机发布！这些新功能或将改变你用手机的习惯三星首款 AI 手机发布！这些新功能将改变手机的使用习惯权威发布！全球AI企业3万家，美国34%，中国15%打工人效率暴增神器！AI时代硬核办公图鉴，TWS耳机成全能会议助理