Orbis Visko推出的实时世界模型,让AI视频像直播一样
Orbis是什么
Orbis 是 Visko 推出的首个 Live Model(实时世界模型),让 AI 视频像直播一样持续运转。用户可随时输入新指令实时改变画面走向,无需等待成片。模型支持 4K@24FPS 实时流式生成,通过多尺度记忆机制维持小时级长时一致性,基于因果时间分解与物理感知奖励确保运动真实自然,适用虚拟直播、互动故事、机器人仿真等场景。

Orbis的主要功能
- 实时流式生成 :画面像直播一样不间断持续输出,支持 4K@24FPS 实时交付。
- 生成中交互 :用户可随时追加或修改提示词,新指令平均 1 秒内作用于后续画面。
- 多模态输入 :支持文生视频、图生视频和视频续写三种方式启动世界。
- 长时一致性 :通过多尺度记忆机制,可维持小时级连续生成而无明显质量衰减。
- 物理真实感 :基于因果分解与世界模型奖励,确保物体运动与交互符合物理规律。
Orbis的技术原理
- 因果时间分解 :将生成视为初值问题,每个 chunk 仅从已提交的历史预测下一时段,天然匹配物理演化的马尔可夫结构,避免双向去噪中未来噪声污染当前决策的问题。
- 有界多尺度记忆 :近期历史保留原生潜在分辨率,远期历史渐进压缩,超窗口信息 Consolidate 为固定容量学习状态,使记忆与计算成本与 rollout 长度解耦。
- 渐进式训练管线 :用双向模型学习短程视觉先验,再蒸馏为流式生成器,经事件对齐长视频训练、人工精选微调,最后通过自强制分布匹配与 GRPO 强化学习对齐视觉与物理奖励。
- 物理感知奖励对齐 :引入冻结的 V-JEPA 2 潜在世界模型,评估候选帧与历史状态的预测一致性,引导生成符合真实动力学,与视觉质量奖励联合优化。
- 流式推理工程 :状态复用、编译化 Transformer 执行、多 GPU 序列并行与渐进式解码-超分-传输流水线协同,实现 4K 实时交付。
如何使用Orbis
- 开启会话 :访问 Visko 官网 Playground 或调用 API,输入文字、上传图片或粘贴视频前缀即可开启一个实时会话。
- 启动实时生成 :点击 Live 按钮启动流式生成,画面会像直播一样持续自动推演。
- 实时干预画面 :在生成过程中随时输入新提示词或语音指令,平均 1 秒内可实时改变后续画面走向。
- 无缝切换场景 :用 Morph the scene 描述场景变化,新指令会在下一个 chunk 边界无缝接入。
- 选择输出画质 :按需选择 1080p、2K 或 4K 输出分辨率,系统通过流式超分实时交付高画质画面。
- 截取保存片段 :点击 Clip 按钮可随时截取并保存当前生成的视频片段,供后续剪辑或分享。
- 接入自有应用 :通过获取 API Key,可将 Orbis 的实时生成能力集成到自己的应用、直播或机器人仿真工作流中。
Orbis的核心优势
实时流式交互 :画面像直播一样持续生成,用户可随时输入新指令实时改变走向,无需等待成片。 超长时程一致 :通过有界多尺度记忆机制,可维持小时级连续生成而无明显质量衰减或色彩漂移。 物理真实感强 :基于因果时间分解与潜在世界模型奖励,确保物体运动与交互符合真实物理规律。 高画质实时交付 :原生生成配合流式超分,可实时输出 4K@24FPS 视频。 统一生成接口 :同一套因果续写框架支持文生视频、图生视频和视频续写三种启动方式。 Orbis的项目地址、 项目官网 :https://www.visko.ai/models 技术论文 :https://www.visko.ai/blog/papers/files/Visko_Orbis_1_0__A_Live_Model_for_Real_TimeInteractive_Long_Video_Generation.pdf
Orbis的同类竞品对比
对比维度 | Visko Orbis 1.0 | 昆仑万维 Matrix Game 3.0
| 对比维度 | Visko Orbis 1.0 | 昆仑万维 Matrix Game 3.0 |
|---|---|---|
| 核心定位 | 通用实时流式视频世界 | 键盘/鼠标驱动的实时交互世界 |
| 交互方式 | 文本/语音/图像提示词实时干预 | WASD/鼠标动作实时控制画面 |
| 分辨率/帧率 | 4K @ 24 FPS | 720P @ 最高 40 FPS |
| 长时一致性 | 有界多尺度记忆,小时级稳定 | 长期记忆,维持空间场景一致性 |
| 生成范式 | 因果 chunk 流式生成 | 动作条件流式生成 |
| 物理合理性 | 物理感知奖励 + 世界模型 | 侧重交互响应与场景持续 |
| 主要场景 | 直播、影视、虚拟伴侣 | AI 游戏、交互式世界探索 |
Orbis的应用场景
- 互动娱乐与故事创作 :用户实时选择剧情分支或语音讲述故事,画面随指令即时推演,打造可玩的电影体验。
- AI 直播与虚拟主播 :作为虚拟主播的实时画面引擎,持续生成直播画面并响应弹幕或语音指令,无需预录素材。
- 机器人仿真训练 :在生成的高保真虚拟世界中训练与测试机器人行为,降低真实环境部署前的试错成本。
- 沉浸式教育与培训 :将抽象知识或历史场景实时可视化,学生可通过语音提问即时改变演示内容。
- 电商虚拟展示 :由虚拟 influencer 在实时生成的场景中动态展示商品,用户可即时要求切换风格、角度或使用情境。
相关工具
与本文相关的 AI 工具