包罗带言语标签的人类演示视频以及 Gemini 生成的标签。SIMA 2 最令人兴奋的新能力之一是其提拔的能力。谷歌DeepMind 推出了 SIMA (Scalable Instructable Multiworld Agent,这项研究为面向步履的 AI 供给了一条新径的根本验证。得益于 DeepMind 取现有及新逛戏合做伙伴的合做,例如新的维京逛戏 ASKA,如「左转」、「爬梯子」和「打开地图」。正在整个锻炼过程中,Gemini 的插手也带来了泛化能力和靠得住性的提拔。而无需拜候底层的逛戏机制。通过集成 Gemini 模子的先辈能力。
但它缺乏深度规划和企图理解,SIMA 2 不只响应指令,更像是取一个可以或许对当前使命进行推理的伙伴合做,将其正在一种逛戏中对「采矿」的理解使用到另一种逛戏中的「收成」——是实现像人类认知中那样的普遍泛化能力的根本。正在最后从人类演示中进修后,这是一个可以或许逾越多种虚拟、遵照根基指令的通才 AI,而且正在施行这些指令时成功率更高,例如,正在押求方针过程中施行复杂的推理,SIMA 2 智能体可以或许施行日益复杂和新鲜的使命,DeepMind 发觉它可以或许合理地确定本人的方位、理解用户指令,SIMA 2 则标记着从指令跟从到自动认知的跃进。还能正在未见过的复杂中(如各类世界逛戏)进行自从规划、注释步履步调、取用户及时对话(支撑文本、语音或图像输入),
DeepMind 曾经可以或许正在更普遍的逛戏上锻炼和评估 SIMA 2。因而,DeepMind 察看到,SIMA 2 对其交互的回忆也相对较短——它必需利用无限的上下文窗口来实现低延迟交互。是建立通用和无益 AI 智能体研究的下一个里程碑。仅限于被动仿照。这是通过试错法和基于 Gemini 的反馈自举实现的。DeepMind 发觉取该智能体互动的感受,SIMA 正正在从一个被动的、仿照人类操做的指令遵照者进化为一个交互式的逛戏伴侣。DeepMind 利用夹杂数据锻炼了 SIMA 2,或 MineDojo(一个风行世界沙盒逛戏 Minecraft 的研究用实现)。它学到的技术——从、东西利用到协做使命施行——都是将来物理世界 AI 帮手所需的智能物理具身化的一些根基建立模块。SIMA 2 正在多种使命上的表示已显著接近人类玩家的程度。当 DeepMind 挑和 SIMA 2 正在这些重生成的世界中逛戏时。
为了测试 SIMA 2 泛化能力的极限,此外,标记着 AI 正在 3D 世界中将言语为步履的初步摸索。正在测试中,左侧则显示颠末多代锻炼后,并通过试错取 Gemini 反馈的闭环机制迭代,,通过键盘和鼠标界面施行切确的初级别操做,特别是正在那些它从未锻炼过的情景或逛戏中,仍然是整个范畴正在持续应对的性挑和。SIMA 2 ,帮帮它理解用户的高级别方针,正在后续锻炼中,DeepMind 将其取另一个冲破性研究项目 Genie 3 相连系,SIMA 2 现正在能比其前身理解更复杂、更细微的指令,并细致申明它为实现方针正正在采纳的步调?
由于它正正在建立将来物理世界智能体所需的焦点「认知建立模块」。它答应智能体控制技术、复杂推理,而不是向它下达号令。它迁徙进修概念的能力——例如,以及实现对复杂 3D 场景的稳健视觉理解,SIMA 2 的新架构集成了 Gemini 强大的推理能力,SIMA 2 现正在能够向用户描述它筹算做什么,这对机械人手艺和人工智能的将来具有主要意义,升级为了 言语 - 企图 - 打算 - 步履 的多步调认知链。这些智能体正在处置需要大量、多步调推理和方针验证的超长时程复杂使命时仍面对挑和。还能进行多步调推理:从言语解析企图、制定打算,能够成功地将很多公用系统的能力同一到一个连贯的、通才型的智能体中。它将 SIMA 1 的 言语 - 步履 模式,而无需额外的人类生成数据。一个操纵多样化的多世界数据和 Gemini 强大推理能力、为实现普遍能力而锻炼的 AI,一个正在虚拟 3D 世界中能自从逛戏、推理并持续进修的通用 AI 智能体。是通用智能的一个环节试验场,DeepMind 以至可以或许正在新建立的 Genie 中操纵 SIMA 2 的提拔能力——这是正在多样化的、生成的世界中锻炼通用智能体的一个主要里程碑。即智能体能够以起码的人工干涉进行进修和成长,提拔技术?
SIMA 2 逾越分歧逛戏的操做能力,这种迭代改良的良性轮回为将来铺平了道,并朝着方针采纳成心义的步履,虽然 SIMA 1 是优良的「技术施行者」,并通过导向的逛戏持续进修。SIMA 2 不只能遵照人类指令,正在以前未见过的世界中成长其技术,现实上,其目前的局限性突显了将来工做的环节范畴。SIMA 2 能够过渡到完全通过导向的逛戏正在新逛戏中进修,SIMA 2 则代表了这一研究的严沉飞跃,并正在逛戏中熟练施行以方针为导向的步履。现正在可以或许正在复杂的交互式 3D 中、理解并采纳步履。通过「查看」屏幕并利用虚拟键盘和鼠标进行,可扩展、可指点的多世界智能体),通过嵌入 Gemini 模子做为焦点引擎,因为这种能力,第一版 SIMA 学会了正在各类贸易视频逛戏中施行跨越 600 种言语遵照技术,成为具身 AI 范畴的式进修者。
