跳到正文
原文
IT之家·人工智能·· 5 天前AI 评分53

谷歌 DeepMind 推出世界模型 Genie 4,一句话生成可交互虚拟世界并同步实时音频

谷歌推出最强世界模型 Genie 4:一句话创造可交互虚拟世界,首次实现音视频同步生成

文章要点
  • 1谷歌 DeepMind 推出世界模型 Genie 4,处于研究预览阶段,可生成可交互虚拟世界并同步实时音频
  • 2Genie 4 支持实时编辑天气、镜头和人物物体,连贯场景最长两分钟,是前代 Genie 3 的两倍
  • 3官方提出游戏、交互式学习和机器人等落地方向,可信测试者发现电影原型制作这一潜在新用途
  • 4谷歌承认模型仍处早期,仿真越久细节越易偏移,音频准确性尚无稳妥保障,未来几周向更多订阅用户开放
决策要点

世界模型从生成视频走向可实时编辑的交互仿真,谷歌借 Genie 4 把竞争焦点转向实时性与音频,赛道同时进入收购整合期。

  • 影响:影视和创意团队可在分镜与原型阶段低成本试错,前期创意流程的工具有了新选项;机器人相关企业多了一条先仿真验证再上真机的路径;但细节偏移与音频短板意味着现阶段只适合评估,难以承担生产任务。
  • 参考:可考虑让内容或机器人相关团队申请早期使用权限,各选一个分镜或仿真验证场景做小范围试点;值得先梳理现有视频生成工具的分工,再决定是否为新工具预留预算。
  • 依据:两分钟连贯时长、拟真度提升和音频能力为谷歌官方口径,暂无独立验证;模型短板由 DeepMind 工程师在媒体简报会承认,收购整合为文中转述的行业动态。
正文

IT之家 10 月 28 日消息,谷歌 DeepMind 于周二推出了最新的世界模型 Genie 4,目前处于研究预览阶段。这款最新模型能够生成迄今为止拟真度最高、可交互的虚拟世界,用户可以在模拟运行的过程中输入提示词来修改场景。该模型还能生成和虚拟世界同步的实时音频,涵盖音乐、环境音以及可交互对话。

IT之家注意到,就在 Genie 4 发布的数月之前,AI 视频初创公司 Runway 推出了自家第二款世界模型 GWM Worlds 2,这是一款可交互运行的模型,能够对用户输入做出动态响应,同时支持音频生成。与此同时,世界模型赛道开始出现整合趋势。李飞飞(Fei-Fei Li)创立的世界实验室(World Labs)被 AMD 收购,亚马逊正在洽谈收购 Decart,而 Rivian 刚刚收购了 Third Dimension,以此在内部搭建仿真能力,用于自动驾驶测试。

推出 Genie 4,是谷歌为在竞争激烈的赛道中保持领先而采取的最新举措。

一年多前,谷歌就以研究预览的形式发布了前代模型 Genie 3。除了画面拟真度大幅提升并新增音频能力之外,Genie 4 支持自由形式的编辑操作,比如实时调整天气、镜头角度,或是新增人物与物体。其最长可以维持两分钟连贯不变的场景,时长是前代模型的两倍,物理效果表现更好,虚拟人物也更加贴近真人。

谷歌的大模型 Gemini 和 Genie 4 的集成度也进一步提高,Gemini 相当于导演,负责规划步骤、校验画面帧,Genie 4 则负责生成视觉内容。在一项和 Gemini 机器人项目相关的研究实验中,Gemini 4 Argon 模型把任务拆解成多个步骤,再由 Genie 4 进行实时仿真。这项实验展示了一种可行方案:在真实世界开展机器人测试前,先在仿真环境里验证相关场景。

谷歌研究总监特贾斯 · 库尔卡尼(Tejas Kulkarni)在一场简报会上表示:“未来我们会越来越多地见到这类混合式世界模型,由 Gemini 编写代码和文本,Genie 4 实时读取这些内容,在不同抽象层级上对现实进行仿真。”

和其他世界模型一样,其主推的商业化落地场景包括游戏、交互式学习以及机器人领域。交互式学习的一个设想案例是,用户进入一幅描绘历史场景的画作当中,和画中的人物交流画里记载的事件。

不过,“可信测试者”也就是首批能够体验谷歌前沿产品的用户,发现了一个潜在新用途:电影原型制作。

谷歌 DeepMind 工程师迭戈 · 里瓦斯(Diego Rivas)在媒体简报会上说:“实时特性的价值,在需要维持连贯创作思路的场景里体现得尤为突出。比如创意构思阶段、分镜脚本阶段,所有需要快速迸发创意的环节都适用。”

谷歌还推出过 Veo 这款 AI 视频生成模型,可以根据文本、图片或者视频提示词生成高清短片,自带同步音频,这款工具在影视创作者群体中热度持续上升。

里瓦斯补充说,用户未来有望借助 Gemini Omni 这款多模态大模型,把原型素材转化为正式创作资产,Gemini 全模态可以基于图片、音频和文本来生成视频。不过他也提到,这些能力距离落地还有一段距离。

整场简报会上,里瓦斯反复强调 Genie 4 仍处在发展早期,完整产品最终会是什么样的体验还没有定论。团队也承认 Genie 4 仍存在短板:仿真运行时间越长,细节和物体就越容易出现偏移,团队还没有找到稳妥的办法,保证音频准确无误,同时让虚拟世界里的文字清晰可辨。

目前 Genie 4 已经面向可信测试者开放研究预览。未来几周内,该模型会陆续向谷歌 AI Ultra 订阅用户、Genie 项目开放,Genie 项目是谷歌推出的 AI 工具,可以根据文本或图片提示词生成可交互虚拟世界,Gemini 应用程序接口(API)和谷歌 AI Studio 的早期合作方也会获得使用权限。

来源:IT之家·人工智能 · ithome.com