数据的相似性和相异性的度量

要讨论相似度（similarity）和相异度（dissimilarity），我们先引入一个术语叫邻近度（proximity）。邻近度可以表示相似性或者相异性，相当于是一个总括概念。邻近度度量有很多，比如相关和欧几里得距离（在时间序列这样的稠密数据或者二维点用到）、余弦相似度和Jaccard系数（文档类稀疏数据）。我们接下来简明扼要地来探讨梳理一下。

本文讲解的目录是：

一、相异度

二、相似度

三、邻近性度量实例

四、邻近度计算问题

五、如何选择邻近性度量

一、相异度

距离

我们最属性的距离就是欧几里得距离d。这是我们中学时就用到的。引申到一维、二维、或更高维度的数据空间中也一样适用。它就是表征两个数据（点）之间的差距嘛！所以可以用来表征相异度。

如果一个点有多个属性值，如x={x1,x2...xk}, y={y1,y2...yk}，那么他们的欧几里得距离可以表示为：

但是我们到了大学之后，特别是研究生搞科研阶段，不好意思再用这么简单的距离了吧？应该说是要根据问题的形态选取合适的度量（这个我们在本文第5部分深入讲）。所以有些牛人就构造了更牛x的距离表达式，瞬间让你高大上的：

闵可夫斯基距离：

r=1：城市街区距离。比如常见的汉明距离。实际上是表征两个二元向量之间不同的二进制位的个数。二元向量就是具有二元属性的对象，在上一篇博文《数据预处理工作中的几个关键主题探讨：聚集、抽样、降维、变量变换等》中我们讲过如何用二元属性来表征一个数据对象哦！

r=2：欧几里得距离。就是我们上面讲的。