协方差矩阵，例子

2019-09-26 本文已影响0人流星落黑光

协方差矩阵的定义（参考维基百科）：

假设 $X$ 是以n个随机变数组成的列向量
$X = [X_1,X_2,\cdots,X_n]^T$
并且第i个变量的期望为 $\mu_i=E[X_i]$ ，则协方差矩阵的第ij项为：
$\Sigma_{ij} = cov(X_i,X_j) = E[(X_i-\mu_i)(X_j-\mu_j)]$

举个例子：
比如有一列3维的样本：
$y_1 = [1,2,3] \\ y_2 = [4,5,6] \\ y_3 = [7,8,9] \\ y_4 = [1,1,1] \\ y_5 = [3,4,5]$
则他们都由三个随机变数组成，分别是他们的第一位、第二位和第三位。

计算第i个变量的期望：
$\mu_1 = (1+4+7+1+3)/5 = 3.2 \\ \mu_2 = (2+5+8+1+4)/5 = 4.0 \\ \mu_3 = (3+6+9+1+5)/5 = 4.8$
计算协方差矩阵：
以第（1,2）个位置为例
$\Sigma_{1,2}=E[(X_1-\mu_1)(X_2-\mu2)] \\ =[(1-3.2)*(2-4.0)+(4-3.2)*(5-4.0)+(7-3.2)*(8-4.0)\\ +(1-3.2)*(1-4.0)+(3-3.2)*(5-4.0)]/5 \\ =5.36$
不难发现 $\Sigma_{i,j} = \Sigma_{j,i}$
计算所有的 $\Sigma_{i,j}$ 就得到了协方差矩阵(3*3)

协方差矩阵，例子

猜你喜欢

热点阅读