29、高维数据的离群点鲁棒测地线 K - 均值算法及自适应稀疏贝叶斯回归

高维数据的离群点鲁棒测地线 K - 均值算法及自适应稀疏贝叶斯回归

在数据处理和分析领域，高维数据的聚类以及回归分析是两个重要的研究方向。下面将为大家详细介绍离群点鲁棒测地线 K - 均值（ORGK - means）算法以及自适应稀疏贝叶斯回归的相关内容。

1. 高维数据聚类面临的问题

在高维数据处理中，基于欧几里得距离的 k - 近邻图存在集中问题，难以全面捕捉数据点的相似性。同时，DGK - means 算法中的 k - NN 密度估计器容易受到维数灾难的影响，因为它依赖于球体体积的计算来表示数据的远端局部邻域，而在高维且数据样本数量较少的情况下，这种计算在数值上是难以处理的。

2. 测地线 K - 均值算法

DGK - means 算法按照一般距离方法需要计算所有簇内距离，计算成本较高。不过，它可以在随机基准下重新表述，通过随机过程消除多次调用簇内成对距离计算。具体来说，在每次迭代中，会在每个数据簇的随机样本集上估计虚拟簇质心。

3. 离群点鲁棒测地线 K - 均值（ORGK - means）算法

ORGK - means 算法与 DGK - means 算法大纲相同，但在成对距离、密度估计和加权变换模型的公式方面有三项特定改进。
- 基于 SNN 的距离度量 ：
- ORGK - means 算法采用基于 SNN 相似性的替代策略来计算成对距离。SNN 相似性是指两个数据点的底层模式相互重叠的程度，在稀疏 k - 邻域图中，表现为两个数据点的 k - 近邻列表中共享点的数量。
- 给定数据点 $x_i$ 和 $x_j$ 的 k - 近邻集