3月31日消息,近日,Meta研究团队最近展示了一种新技术,利用生成式AI将单张图像转为3D VR环境。传统的生成式AI模型虽然能够从单张图像生成视频,但在创建完全沉浸式的3D场景方面仍面临诸多难题。Meta新技术则是将复杂的单张图像生成3D环境的任务拆分为一系列更易于管理的子问题,每个子问题都可以用现有技术解决。
该方法分为两个主要步骤:首先,使用预训练的扩散模型生成连贯的全景图;然后,通过度量深度估计器将这些全景图提升到3D空间。对于未观察到的区域,研究人员通过在渲染的点云上条件化修复模型来填充。最终生成的是使用高斯飞溅渲染的3D环境,用户可以在VR头显中的一个2米的立方体内查看和导航。该方法不仅适用于合成图像,还适用于真实照片,甚至可以通过场景的文字描述作为输入来生成高质量的3D环境。
VRPinea独家点评:不知道Meta这项技术又会用在哪里。
消息来源:Mixed,本消息由VRPinea编译。