期望与方差之五：两个独立随机变量合并后的方差

2020-09-23 本文已影响0人艾辛图

本系列前面四篇文章，均为本文铺垫。本文我们将要推导统计学入门时一个十分让人困惑的公式：

$Var(X \pm Y) =Var(X) + Var(Y)$

或者写成：

$\sigma_{x \pm y}^2 = \sigma_{x}^2 + \sigma_{y}^2$

这组公式表示，合并两个随机变量后的方差，不管是相加还是相减，结果都等于这两个随机变量的方差之和。这个结论并不直观，要证明它的正确性，我们首先要证明另一个等式：

$Var(X) = E((X - \mu)^2) = E(X^2) - E^2(X)$

这里 $E((X - \mu)^2)$ 就是 $Var(X)$ ， $\mu$ 就是这个总体的期望值，即均值，也可记为 $E(X)$ 。详细可见本系列文章第一篇。回到上面式子的证明：

$E((X-\mu)^2) = \frac{(x_{1}-\mu)^2 + (x_{2}-\mu)^2 +... + (x_{n}-\mu)^2}{n}$

$=\frac{( x_{1}^2-2\mu x_{1} + \mu^2) + ( x_{2}^2-2\mu x_{2} + \mu^2) + ... + ( x_{n}^2-2\mu x_{n} + \mu^2)}{ n}$

$=\frac{(x_{1}^2 + x_{2}^2 + ... + x_{n}^2) -2\mu (x_{1} + x_{2} + ... + x_{n}) + n\mu^2}{n}$

$=\frac{(x_{1}^2 + x_{2}^2 + ... + x_{n}^2)}{n} -2\mu \frac{x_{1} + x_{2} + ...x_{n}}{n} + \frac{n\mu^2 }{n}$

$=E(X^2) - 2\mu^2 + \mu^2 = E(X^2) - \mu^2 =E(X^2) - E^2(X)$

证毕

现在回到 $Var(X \pm Y) = Var(X) + Var(Y)$ 的证明。不妨直接证明 $Var(X - Y)$ 的情况：

$Var(X - Y) = E([(X - Y) - E(X - Y)]^2)$

来到这一步，我们马上用上 $E((X - \mu)^2) = E(X^2) - E^2(X)$ 这个结论。于是，上式可以变成：

$E((X-Y)^2) - E^2(X - Y) = E(X^2 - 2XY + Y^2) - (E(X) - E(Y))^2$

$= E(X^2) - 2E(XY) + E(Y^2) - E^2(X) + 2E(X)E(Y) - E^2(Y)$

$=E(X^2) - E^2(X) + E(Y^2) - E^2(Y) + 2E(X)E(Y) - 2E(XY)$

可以留意到，前面四项，实质就是我们的最终结论:

$E(X^2) - E^2(X) = Var(X)$

$E(Y^2) - E^2(Y) = Var(Y)$

剩下的任务，就是要证明 $2E(X)E(Y) - 2E(XY) = 2(E(X)E(Y) - E(XY)) = 0$

也就是，只要证明 $E(X)E(Y) = E(XY)$ 即可。

证：

设总体X有m个元素，而总体Y有n个元素，有：

$E(XY) = \frac{x_{1}y_{1} + x_{1}y_{2} +..+ x_{1}y_{n} + x_{2}y_{1} + x_{2}y_{2} + .. + x_{2}y_{n}+....}{m \times n}$

$= \frac{x_{1}(y_{1}+..y_{n}) + x_{2}(y_{1}+..y_{n}) + ....x_{m}(y_{1}+..y_{n})}{m \times n}$

$= \frac{(x_{1} + x_{2} + ...x_{m})(y_{1} + y_{2}+...y_{n})}{m \times n} =\frac{(x_{1} + x_{2} + ...x_{m})}{m} \bullet \frac{(y_{1} + y_{2} + ...y_{n})}{n}$

$=E(X)E(Y)$

证毕。

因此，我们证得 $Var(X - Y) = Var(X) + Var(Y)$ 。

同理可证 $Var(X + Y) = Var(X) + Var(Y)$ ，读者们可以尝试一下。

上一篇下一篇

猜你喜欢

热点阅读