谷歌研究为NeRF渲染提出视图合成深度学习模型

小编广东客 | 分类：论文 | 发布日期 2022年10月5日

加入映维网会员

视图合成深度学习模型

（映维网Nweon 2022年10月05日）视图合成是计算机视觉和计算机图形学的一个长期问题，其目标是从场景的多张图片中创建新的场景视图。自从引入神经辐射场（NeRF）以来，这一点受到了越来越多的关注。这个问题非常有挑战性，因为若要准确地合成场景的新视图，模型需要从一小组参考图像中捕获多种类型的信息，包括详细的3D结构、材质和照明。

在日前一篇博文中，谷歌介绍了最近发布的视图合成深度学习模型。在CVPR 2022大会介绍的LFNR光场神经网络渲染中，谷歌通过使用学习组合参考像素颜色的transformer来解决精确再现视图相关效果的挑战。然后，在ECCV 2022大会介绍的GPNR中，谷歌通过使用一系列具有规范化位置编码的transformer来解决泛化到未知场景的挑战。

其中，transformer可以在一组场景进行训练，并合成新场景的视图。所述模型执行基于图像的渲染，结合参考图像的颜色和特征来渲染新视图。它们完全基于transformer，在图像patch集上操作，并利用4D光场表示进行位置编码，这有助于建模视图相关的效果。

1. 概述

模型的输入包括一组参考图像及其camera参数（焦距、位置和空间方向），以及要确定其颜色的目标光线的坐标。为了生成新图像，研究人员从输入图像的camera参数开始，获取目标光线的坐标（每个光线对应一个像素），并查询每个光线的模型。

团队只关注可能影响目标像素的区域，而不是完全处理每个参考图像。相关区域是通过极线几何确定，它将每个目标像素映射到每个参考帧的一条线。为了增强鲁棒性，研究人员在外极线上的部分点周围选取了小片区域，从而生成了一组实际上将由模型处理的patch。然后，transformer作用于这组patch以获得目标像素的颜色。

transformer在这种设置中特别有用，因为它们的self-attention机制自然将集合作为输入，并且attention权重本身可以用于组合参考视图颜色和特征，从而预测输出像素颜色。transformer遵循ViT中介绍的架构。

2. LFNR（Light Field Neural Rendering）

在LFNR中，谷歌使用一个由两个transformer组成的序列将patch集映射到目标像素颜色。第一个transformer沿着每条外极线聚合信息，第二个沿着每条参考图像聚合信息。可以将第一个transformer解释为在每个参考帧查找目标像素的潜在对应，而第二个transformer则解释为关于遮挡和视图相关效果的推理，这是基于图像的渲染的常见挑战。

LFNR使用两个transformer序列将沿极线提取的一组patch映射到目标像素颜色。LFNR峰值信噪比（PSNR）为5dB。这相当于将像素误差减少了1.8倍。他们在下面的Shiny数据集中展示了具有挑战性场景的定性结果：

3. 泛化到新场景

LFNR的一个局限性是，第一个transformer沿着每个外极线独立地折叠每个参考图像的信息。这意味着它仅根据每个参考图像的输出光线坐标和patch来决定要保留哪些信息，这在对单个场景进行训练时非常有效（与大多数神经渲染方法一样），但它不会在场景之间进行泛化。泛化方法非常重要，因为它们可以应用于新场景，无需重新培训。

团队在Generalizable Patch-Based Neural Rendering（GPNR）中克服了LFNR的这一局限性。他们添加了一个在其他两个之前运行的transformer，并在所有参考图像相同深度的点之间交换信息。例如，第一个transformer查看上图公园长凳的一列patch，并可以使用诸如花朵这样的线索。这项研究的另一个关键思想是规范化基于目标光线的位置编码，因为要在场景中进行泛化，必须以相对而非绝对参考帧表示数量。