本文提出了一类正则化M估计器（regularized M-estimators）用于散度矩阵（scatter matrix）的估计，其目标是解决低样本支持（low sample support, LSS）或样本数小于维数（insufficient sample support, ISS）条件下的稳健协方差估计问题。该研究由芬兰阿尔托大学（Aalto University）的Esa Ollila与美国罗格斯大学（Rutgers University）的David E. Tyler合作完成，发表于IEEE Transactions on Signal Processing第62卷第22期，2014年11月15日出版。该研究属于统计信号处理与稳健估计领域，主要针对传统M估计器在样本量不足时无法计算或性能恶化的问题，提出带有惩罚项的正则化估计框架。

研究的背景建立在复椭圆对称分布（complex elliptically symmetric, CES）模型之上。在此类分布中，散度矩阵是核心参数，其最大似然估计及M估计在高维样本不足时面临严重挑战。传统的样本协方差矩阵在样本数小于或等于维数时不可逆，而非正则化的M估计器在数据处于退化子空间时可能不存在解。因此，本文的核心目标是提出一类可计算的、对任意数据构型都存在的正则化M估计器，并证明其解的存在性、唯一性及算法收敛性。

在方法设计上，本文首先构造了一个带惩罚项的代价函数。该惩罚项具有形式 ，其中参数控制正则化强度。该惩罚项的作用是约束散度矩阵的特征值不会无限增大，从而保证估计结果的非奇异性。作者采用测地凸性（geodesic convexity）作为理论工具，证明当惩罚项和原始代价函数满足一定条件时，正则化代价函数在正定Hermitian矩阵空间内具有唯一的全局最小值。测地凸性是定义在黎曼流形上的凸性概念，本文利用正定矩阵空间中的测地路径，证明了惩罚项 的严格测地凸性，并结合原始M估计代价函数的测地凸性，建立了整体代价函数的唯一最小化解的存在性定理。

对于求解过程，本文给出了一个不动点迭代算法。该算法从任意初始正定矩阵出发，通过迭代公式逐步更新估计值，作者在附录中证明了该算法收敛到正则化M估计方程的唯一解。该证明的关键步骤包括构造序列并利用权函数的单调性，证明迭代序列的特征值上下界稳定，并最终收敛。该迭代算法的形式与经典M估计器的迭代公式类似，但增加了对角加载项，因此可以看作对角加载型M估计器。

针对Tyler M估计器的特殊情况，本文进行了单独处理。由于Tyler估计器对应的函数不满足有界性条件，前述一般性定理不能直接适用。作者分别给出了充分条件和必要条件，确保带惩罚项的Tyler代价函数在 时存在唯一最小值。其条件与数据子空间中的样本比例有关，采用一般位置（general position）条件可以保证解的存在性。此外，作者还发现正则化Tyler估计器的形状不依赖于正则化参数的取值，即不同值得到的估计矩阵仅相差一个尺度因子，因此在实际应用中可固定。

在正则化参数的选择上，本文提出了一种基于形状矩阵匹配的均方误差准则的闭式解。具体做法是定义一组标量化的形状矩阵，并构造一个理想化的估计器，该估计器依赖于真实散度矩阵，但可以作为正则化参数选择的参考。通过最小化该理想估计器与单位矩阵之间的均方误差，作者得到了关于正则化参数的理论最优值，并利用Tyler估计器进行插件估计，从而得到数据驱动的参数选择方法。该方法的优势在于其形式简单、计算高效，并且不依赖于数据分布的具体生成函数。

仿真研究部分验证了所提方法的有效性。在第一组实验中，作者生成了具有Toeplitz结构的真实散度矩阵，比较了正则化Tyler估计器、Chen-Wiesel-Hero（CWH）估计器和传统Tyler估计器在不同样本量下的形状估计性能。评价准则采用形状距离 ，该准则度量估计矩阵与真实矩阵在尺度等价意义下的差异。结果表明，正则化估计器在样本量较小时显著优于非正则化估计器，且不同正则化强度下的性能差异明显。特别是在样本量为维数两倍或更小的情况下，正则化估计器的优势更加突出。

第二组仿真实验针对自适应归一化匹配滤波器（normalized matched filter, NMF）的雷达检测应用进行了评估。在该场景中，噪声服从复t分布，维数固定，样本量分别取较小值，比较了Tyler估计器、一般线性组合估计器、正则化Tyler估计器和CWH估计器对虚警概率（probability of false alarm, PFA）的保持能力。结果显示，非正则化Tyler估计器在样本量较小时出现显著的虚警概率偏差，而正则化估计器能够较好地维持预设的恒虚警率（constant false alarm rate, CFAR）水平，其中正则化Tyler估计器的表现最优。

本文的主要结论是：通过引入正则化惩罚项，可以构造出一类适用于任意样本量和任意数据构型的稳健散度矩阵估计器。测地凸性理论为证明解的存在性和唯一性提供了有效的工具，不动点迭代算法保证了计算可行性。正则化参数的选择可以通过形状匹配准则获得闭式解，且无需事先知道数据的具体分布。仿真结果证实，在低样本支持条件下，正则化估计器在形状估计精度和CFAR保持性能方面均优于非正则化估计器及部分现有收缩型估计器。

本文的亮点在于：第一，首次在一般框架下建立了正则化M估计器的存在性和唯一性理论，且不要求样本满足任何非退化条件；第二，利用测地凸性为惩罚代价函数的优化提供了新的理论视角；第三，针对Tyler估计器给出了正则化后解的唯一性充要条件；第四，提出了数据驱动的、闭式的正则化参数选择方法；第五，在雷达检测应用中验证了方法在实际问题中的有效性。该方法不仅适用于复值数据，也可直接推广到实值数据情形，具有广泛的适用性。