Gemini Omni icon

Gemini Omni

Gemini Omni 是 Google DeepMind 的视频生成与编辑模型,可基于文本、图片、音频或视频进行创作,适用于 Gemini 和 Google Flow 中的对话式多模态工作流。

Gemini Omni

概述

Gemini Omni 是 Google DeepMind 的模型,可基于多种输入创建和编辑视频。产品页将其定位为一种“从任何内容创建任何内容”的方式,起点是视频;模型卡则将其描述为从文本、图片、音频和视频生成并编辑媒体的下一步。

该产品围绕对话式编辑和多模态创作构建。示例展示了用户如何更改场景、重新构想动作并将多个参考整合到单一输出中;模型卡则指出,它可生成高质量、高分辨率且带音频的视频,并支持通过 Gemini App 和 Google Flow 使用。

功能

多模态视频生成

可根据文本、图片、音频或视频输入生成高质量、高分辨率视频;模型卡说明其支持多种输入类型,并输出带音频的视频。

基于对话的编辑

通过自然对话编辑视频,因此每条新指令都可以在前一轮基础上继续调整,而无需在每次修改后重新开始。

改造现有素材

使用诸如材质变化、风格转换或场景变换等提示,调整输入视频中的美学、动作或效果。

参考驱动创作

将不同参考内容整合为一个连贯输出,以图片、文本、视频或音频作为起点。

具备世界认知的场景生成

结合广泛的世界知识和物理理解,支持既有真实感又可风格化或超现实的场景。

可在 Google 产品界面中使用

可通过 Gemini 或 Google Flow 使用同一模型,正如产品页和模型页所示。

使用场景

  • 生成新的视频概念

    从提示词开始,借助模型对文本或其他参考内容的高质量生成能力,从零创建视频内容。

  • 通过对话编辑素材

    通过逐步编辑请求迭代现有视频,每一轮都在细化同一场景,而不是完全替换它。

  • 重新构想视觉风格和动作

    转换片段的风格或效果,例如改变材质、将人物转为另一种视觉形式,或把整个环境切换到另一种媒介中。

  • 合并多个参考内容

    当项目需要从混合来源材料中得到统一结果时,将文本、图片、音频和视频等多个参考内容合并为一个输出。

  • 在 Google 产品界面中工作

    当工作流更适合使用 Google 托管界面而不是独立本地工具时,在 Gemini 或 Google Flow 中使用该模型。

Pros and Cons

Pros

  • 支持多种输入类型,包括文本、图片、音频和视频。
  • 允许用户通过自然对话进行编辑,而不是从头重建场景。
  • 可以让修改在多轮对话中持续建立在先前指令之上。
  • 旨在将 Gemini 的推理能力与生成式媒体能力结合起来,带来更有依据的输出。
  • 可通过多个 Google 产品界面访问,包括 Gemini App 和 Google Flow。

Cons

  • 模型卡指出,在编辑过程中保持完全一致性仍然是一个挑战。
  • 复杂运动场景也被明确列为困难。
  • 完美准确的文本渲染仍然是一个限制。

FAQ

Gemini Omni 用于什么?

Gemini Omni 被描述为一款可基于文本、图片、音频或视频输入创建和编辑视频的模型。根据产品页展示的工作流,它可在 Gemini 和 Google Flow 中使用。

我可以在哪里试用 Gemini Omni?

源材料显示 Gemini Omni 可通过 Gemini App 和 Google Flow 使用。模型卡说明它通过这些渠道分发,产品页也提供了在 Gemini 和 Google Flow 中试用的链接。

Gemini Omni 会输出什么?

模型卡指出,Gemini Omni Flash 输出高质量、高分辨率且带音频的视频。产品页也强调了基于对话的编辑,以及将参考内容整合为一个连贯结果。

Gemini Omni 的主要限制是什么?

模型卡指出,在编辑过程中保持完全一致性、处理复杂运动场景以及准确渲染文本仍然是挑战。

Gemini Omni 是否单独定价?

定价页面没有提供 Gemini Omni 的单独产品定价,只是将 Gemini Omni 作为 Google DeepMind 更广泛模型阵容的一部分展示。

Quick Facts

类别
AI 视频生成与编辑
产品系列
Gemini
输入
文本、图片、音频和视频
输出
带音频的高质量视频
访问界面
Gemini App 和 Google Flow
来源域名
deepmind.google