一张图or文字生成无限3D世界！斯坦福吴佳俊团队新作，让网友直呼“难以置信”

斯坦福吴佳俊团队打造AI版“爱丽丝梦游仙境”巨作！

仅用一张图or一段文字就能沿相机轨迹生成

无限连贯3D场景

只需输入一段古诗词，诗中场景立刻映入眼帘：

而且还是来回式的，可以再倒回去的那种：

同一起点可以进入不同场景：

真实场景也可以，其中的人物阴影等细节都毫无违和感：

方块世界更不在话下，仿佛打开了“我的世界”：

这项工作名为

WonderJourney

除了可以从任意位置开始，无限生成多样化且连贯的3D场景，WonderJourney根据文本描述生成时，可控性也很高。

只要将鼠标悬停在视频上，就可以暂停自动滑动。

这项工作的发布让网友们直呼“难以置信”?。项目代码还没正式发布，就收获了200+星：

AI研究员Xander Steenbrugge惊讶之余表示：

这是生成式AI和传统3D技术的完美结合。

要知道，之前的工作都是专注于单一类型场景，WonderJourney可谓打开了新世界的大门。

那这究竟是如何做到的？

开启3D奇妙之旅

生成无限连贯3D场景要解决的一大难题是：如何在保持元素多样性的同时，生成符合逻辑的场景元素组合。

这当中需要判断将要生成的元素空间位置的合理性，还需要处理好新旧场景的遮挡关系、视差等几何关系。

可以看到WonderJourney在这方面的处理上非常细致：

无论什么风格都能轻松驾驭：

能够做到这些，关键在于WonderJourney的模块化流程。

总的生成过程分为“确定要生成什么对象”、“把这些对象放在哪里”、“这些场景如何在几何上连接”三步。

需要以下三个模块配合完成：

• Scene description generation：使用大语言模型（LLM）根据当前场景生成下一个场景的文本描述。
• Visual scene generation：将文本描述转换为3D点云表示的场景。
• Visual validation：使用VLM验证生成的场景，检测到不合理的结果启动重新生成。

具体来说，在Scene description generation模块，使用预训练好的LLM输入当前场景描述，通过自回归生成下一个场景，其中包含

风格、物体、背景

此外，还要将自然语言描述进行词类过滤，只保留

名词和形容词

在Visual scene generation模块，先是将当前图像/文本转换为3D点云表示。

然后使用depth refinement增强对象边界的depth不连续性，通俗来讲就是让边界两侧的深度对比更加明显，从而使过渡更加逼真。

之后使用text-guided inpainting基于文本描述生成新场景图像。

研究人员还设计了depth consistency loss和re-rendering consistency机制改进新旧场景遮挡和点云对齐。

最后Visual validation模块，使用VLM提示检测生成图像中的不好的结果，比如画框、模糊等，如果检测到则重新生成场景。

值得一提的是，这三个模块都可用最先进的预训练模型实现、替换，所以不需要任何训练。

实验测试

由于连贯3D场景生成是一个没有现有可用数据集的新任务，所以研究人员在实验中使用了自己拍摄的照片、来自在线无版权的照片以及生成的图片进行了评估。

此外，使用了两种最先进的连续视图生成方法作为基准：基于图像的InfiniteNature-Zero和基于文本的SceneScape。

定性结果展示了从不同类型输入生成的连贯3D场景序列效果，表明方法可以从任何输入开始生成：

此外，同一输入可生成不同输出，表明方法具有多样性：

研究人员还从生成效果多样性、视觉质量、场景复杂度和有趣度这4个方面进行了人类偏好评估。

结果WonderJourney方法明显优于InfiniteNature-Zero、SceneScape。

作者简介

该篇论文来自斯坦福大学吴佳俊团队和谷歌研究院。

论文一作俞洪兴，斯坦福大学四年级博士生，导师吴佳俊。

主要研究领域为物理场景理解和动态建模。

俞洪兴曾在谷歌研究院实习，论文部分工作是在实习期间完成。

吴佳俊，现任斯坦福大学助理教授，隶属于斯坦福视觉与学习实验室 (SVL)和斯坦福人工智能实验室 (SAIL)。

在麻省理工学院完成博士学位，本科毕业于清华大学姚班，曾被誉为“清华十大学神之一”。

论文链接：https://arxiv.org/abs/2312.03884