Runway推出名为Solaris的新模型,颠覆传统GUI范式——不再运行代码,而是根据用户交互逐帧生成界面效果,开启"界面世界模型"新类别。
Runway 发布了 Solaris,一款名为"界面世界模型"的新型 AI 系统。它并非通过代码运行用户界面,而是实时渲染界面并直接响应点击或语音操作。
该系统旨在用动态环境替代固定应用,让界面能够自适应用户行为,在交互式购物或可视化教程场景中具有应用潜力。
目前文本渲染仍容易出错,且不支持屏幕阅读器。该系统基于 Gen-4.5 视频模型构建,仍处于研究阶段。
AI 公司 Runway 发布了 Solaris,这是他们称之为"界面世界模型"这一全新类别的首个模型。与运行代码不同,该系统在与用户交互的过程中逐帧生成用户界面。
这个模型直接渲染界面本身(720p 分辨率)并响应点击、拖拽或语音命令,而非先将设计稿翻译成代码。这与现有软件的运作方式截然不同——操作系统决定屏幕上显示什么,应用在发布更新前保持不变。
Runway 列出了几个应用场景:在线购物场景中,商店本身将成为界面,用户可以将一件衬衫拖拽到自己的照片上来试穿。商店不再是固定布局,而是会适应每个用户。
在产品可视化方面,用户可以说"移动桌子"或"改变沙发的颜色",场景会即时响应,Runway 认为这适用于家具选购和室内设计。
该公司还看到了在教程和学习方面的应用。Solaris 不是像聊天机器人那样给出文字回答,而是在自身上下文中可视化地展示下一步操作,例如用不同材料演示燃烧过程。
Runway 想要让"应用"这一固定单元消失
Solaris 基于 Runway 的视频模型 Gen-4.5 构建,延续了公司从 GWM-1 开始的路线。语言模型决定界面如何变化,而世界模型负责渲染每一帧。Runway 还将其视为 AI Agent 的训练场——Agent 在酒店预订等任务上仍然失败,因为它们训练于固定布局,无法处理与其训练样本不同的网站。
Runway 更大的主张是,"应用"这一固定单元将会消失。如今,完成某件事意味着打开正确的预构建应用——一个购物应用、一个消息应用、一个预订应用。如果操作系统能够自行生成正确的界面,就没有必要将软件分类为固定的应用目录了。
那么在线商店就不再是所有人看到相同布局的固定页面,而是一个适应每个用户的生成环境。用户是否真的想要不断变化的界面,这个问题 Runway 没有给出答案。
目前距离这一愿景仍有很长的路要走,因为 Runway 表示,稳定、可读的文本仍然是一个难题,而界面高度依赖文本。长会话和可靠性也是悬而未决的问题,一个看起来正确但实际错误的结果可能比没有结果更糟糕。生成的界面还需要与屏幕阅读器等辅助技术兼容。
因此,Solaris 目前仍是一个研究项目。Runway 正在寻找合作伙伴以实现发布,并通过表单提供早期访问。