协方差矩阵的详细说明 - 潜心学习慧
协方差矩阵的详细说明
转自 http://blog.csdn.net/faceRec/article/details/1697362
在做人脸识别的时候经常与协方差矩阵打交道，但一直也只是知道其形式，而对其意义却比较模糊，现在我根据单变量的协方差给出协方差矩阵的详细推导以及在不同应用背景下的不同形式。
变量说明：
设为一组随机变量，这些随机变量构成随机向量
，每个随机变量有m个样本，则有样本矩阵
（1）
其中 对应着每个随机向量X的样本向量，
对应着第i个随机单变量的所有样本值构成的向量。
单随机变量间的协方差：
随机变量 之间的协方差可以表示为
（2）
根据已知的样本值可以得到协方差的估计值如下：
（3）
可以进一步地简化为：
（4）
协方差矩阵：
（5）
其中 ，从而得到了协方差矩阵表达式。
如果所有样本的均值为一个零向量，则式（5）可以表达成：
（6）
补充说明：
1、协方差矩阵中的每一个元素是表示的随机向量X的不同分量之间的协方差，而不是不同样本之间的协方差，如元素Cij就是反映的随机变量Xi, Xj的协方差。
2、协方差是反映的变量之间的二阶统计特性，如果随机向量的不同分量之间的相关性很小，则所得的协方差矩阵几乎是一个对角矩阵。对于一些特殊的应用场合，为了使随机向量的长度较小，可以采用主成分分析的方法，使变换之后的变量的协方差矩阵完全是一个对角矩阵，之后就可以舍弃一些能量较小的分量了（对角线上的元素反映的是方差，也就是交流能量）。特别是在模式识别领域，当模式向量的维数过高时会影响识别系统的泛化性能，经常需要做这样的处理。
3、必须注意的是，这里所得到的式（5）和式（6）给出的只是随机向量协方差矩阵真实值的一个估计（即由所测的样本的值来表示的，随着样本取值的不同会发生变化），故而所得的协方差矩阵是依赖于采样样本的，并且样本的数目越多，样本在总体中的覆盖面越广，则所得的协方差矩阵越可靠。
4、如同协方差和相关系数的关系一样，我们有时为了能够更直观地知道随机向量的不同分量之间的相关性究竟有多大，还会引入相关系数矩阵。