分享自:

数字人脸渲染与外观恢复方法综述

期刊:中国图象图形学报DOI:10.11834/jig.230683

类型b

作者与机构
本文由郝琮晖(南开大学计算机学院)、杜悠扬和王璐(山东大学软件学院)、王贝贝(南京大学智能科学与技术学院)共同撰写,发表于《Journal of Image and Graphics》(中国图象图形学报),2024年第29卷第9期。

主题概述
本文是一篇综述性文章,围绕数字人脸渲染与外观恢复方法展开讨论。文章系统地总结了真实感人脸渲染与逆向恢复的相关技术,并探讨了这些技术的现状、挑战及未来发展趋势。主要内容包括基于扩散近似和蒙特卡洛法的人脸真实感渲染方法,以及基于专业采集设备和深度学习的人脸逆向恢复方法。


主要观点及其论述

1. 人脸的真实感渲染方法

文章指出,实现高保真的人脸渲染是数字人技术的核心挑战之一,其难点在于皮肤材质的复杂光学特性,尤其是次表面散射(subsurface scattering, SSS)效果的模拟。文章将真实感人脸渲染方法分为两类:基于扩散近似的方法和基于蒙特卡洛法的方法。

  • 基于扩散近似的方法
    扩散近似方法通过简化光线传播模型来提高渲染效率,但其精度受限于严格的假设条件。例如,Jensen等人(2001)首次提出了基于偶极子模型的扩散剖面函数,用于描述光线在物体内部多次散射后的分布情况。然而,这种方法假设物体为均匀介质的半无限平面,导致在曲率较大或厚度较薄的区域误差明显。随后的研究对扩散剖面进行了改进,如Donner和Jensen(2005)提出的多极子模型,能够更好地模拟多层皮肤材质的光学特性。此外,实时渲染的需求推动了次表面散射的高效实现,例如Jimenez等人(2015)提出的预积分可分离核方法,进一步提高了渲染效率。

  • 基于蒙特卡洛法的方法
    蒙特卡洛法通过精确模拟光线传播路径,能够生成高度逼真的渲染结果,但计算成本较高。为了加速收敛速度,研究者提出了多种优化方法,包括零方差随机游走、下一次事件估计(next-event estimation)和参与介质路径指导(path guiding)。例如,Herholz等人(2019)提出了一种结合零方差路径采样的路径指导方法,显著提高了体渲染中的采样效率。这些方法在电影等需要高精度视觉效果的领域得到了广泛应用。


2. 人脸的逆向恢复方法

人脸逆向恢复旨在通过采集设备获取人脸的几何信息和外观数据,其方法可分为高精度恢复和低精度恢复两大类。

  • 高精度恢复
    高精度恢复通常依赖于专业的采集设备和复杂的恢复流程,包括主动照明和被动捕获两种方式。

    • 主动照明
      主动照明通过控制光源提供光照条件,从而提高恢复质量。例如,Debevec等人(2000)提出的Light Stage系统利用专门设计的照明装置捕获人脸在不同光照方向下的图像,并结合结构光技术重建几何模型。Weyrich等人(2006)在此基础上进一步优化了采集时间,并引入了皮肤接触探针以更准确地恢复次表面散射效果。近年来,偏振梯度照明技术成为主流,如Ma等人(2007)提出的偏振球形梯度照明方法,仅需8幅图像即可有效分离漫反射和镜面反射。
    • 被动捕获
      被动捕获不依赖于专业照明设备,而是通过多视角立体重建技术从自然光照条件下捕获人脸数据。Beeler等人(2010)首次将被动捕获的几何质量提升至与主动捕获相媲美的水平,其核心是一种粗糙到精细的迭代优化法,结合图像一致性约束和表面平滑度约束对人脸细节进行雕刻。
  • 低精度恢复
    低精度恢复通常基于深度学习技术,适用于轻量化场景。文章将其进一步划分为几何细节恢复、纹理贴图恢复和人脸材质信息恢复三个方面。例如,Li等人(2021)提出的TOFU(Topologically Consistent Face from Multi-view)方法结合多视角图像和深度学习技术,实现了交互级别的恢复速度。Liu等人(2022)提出的REFA(Recurrent Feature Alignment)则通过GRU网络存储多轮迭代中的共享信息,进一步提升了恢复精度。


3. 当前研究的挑战与未来趋势

文章总结了当前数字人脸渲染与恢复领域面临的主要挑战,并展望了未来的发展方向。

  • 渲染领域的挑战
    尽管现有的渲染方法已经能够在一定程度上模拟皮肤的光学特性,但仍存在以下问题:

    • 次表面散射模型对多层材质结构的拟合能力有限;
    • 现有方法通常忽略皮肤颜色作为生物材料的独特原理;
    • 实时渲染与高精度之间的平衡尚未完全实现。
  • 恢复领域的挑战

    • 高精度恢复受限于昂贵的采集设备和复杂的恢复流程;
    • 低精度恢复方法因缺乏高质量的开源数据集而难以取得突破;
    • 在微观层面(如毛孔级别)的建模和恢复仍需进一步改进。
  • 未来趋势
    文章指出,未来的研究应重点关注以下几个方面:

    • 探索深度学习技术与传统渲染方法的结合;
    • 开发更加高效的次表面散射模拟算法;
    • 构建高质量的开放数据集以支持低精度恢复方法的发展;
    • 结合文本生成技术实现更广泛的应用场景。

论文的意义与价值

本文通过对数字人脸渲染与恢复方法的全面综述,为相关领域的研究人员提供了系统的背景知识和思路启发。文章不仅详细介绍了各类方法的核心原理和技术细节,还深入分析了其优缺点及适用场景。此外,文章对未来研究方向的展望具有重要的指导意义,有助于推动数字人技术在影视、游戏、虚拟现实等领域的进一步应用。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com