Adobe 最新研究:从单一普通视频生成从不同视角观看的视频画面
该项目可以快速从任意视频中创建新的视角
就是你能从不同的角度观看同一场景,即使原视频只是从一个角度拍摄的。
而且支持实时渲染,渲染速度比现有技术快100倍以上
它甚至让你可以在时间轴上自由移动,选择任何一个时间点,从任何角度观察场景。
还能通过在虚拟左右摄像机视图上合成3D立体视频。
这项技术特别适合于处理动态的场景,比如运动中的人或移动的车辆等。
解决的问题
1.训练和渲染速度慢:传统的基于NeRF的方法虽然能够生成高质量的新视角,但通常需要较长的训练和渲染时间。本项目通过显式视频表示和优化算法,大大提高了处理速度,使训练和渲染速度比现有技术快100倍以上。
2.动态场景处理困难:动态场景的处理通常更复杂,尤其是在缺少足够视差信息的视频中。该项目通过独立处理视频中的动态和静态内容,优化了动态场景的视角合成效果。
3.资源效率低:传统方法在资源消耗上往往较高,限制了其在资源受限环境下的应用。本项目优化了资源利用效率,使其能在单个GPU上快速完成训练和渲染过程。
主要特点
1.高效视角合成:该技术能够从单—摄像机拍摄的视频中快速生成新的视角,即使原始视频仅从一个角度拍摄。这种快速合成新视角的能力特别适用于动态和变化多端的场景。
2.实时渲染:技术设计支持实时渲染,这意味着它可以快速处理和输出新视角的图像,适合需要即时视觉反馈的应用,如实时视频编辑和虚拟现实。
3.处理动态和静态内容:它通过分别处理视频中的静态和动态内容来优化视角合成的质量和效率。例如,它使用基于平面的场景表示来建模静态场景,而动态内容则通过逐帧点云表示。
4.优化训练和渲染速度:相比于传统的基于神经辐射场(NeRF)的方法,此技术在训练和渲染过程中速度更快,训练时间缩短至传统方法的百分之一,显著提高了效率。
5.质量保证:尽管速度得到了提升,但合成的新视角图像仍保持高质量,能够与当前最先进的技术相媲美,确保视觉效果的真实性和吸引力。