期望与方差之五：两个独立随机变量合并后的方差

作者: 艾辛图 | 来源:发表于2020-09-23 07:11 被阅读0次

P36-P41方差
期望与方差之五：两个独立随机变量合并后的方差
大数据中的统计学基础——Day6
方差分解公式
期望与方差之四：两个独立随机变量合并后的期望
统计自然语言处理
统计自然语言处理-预备知识
100天搞定机器学习|Day59 主成分分析(PCA)原理及使用
神经网络基础
【数学】方差

本系列前面四篇文章，均为本文铺垫。本文我们将要推导统计学入门时一个十分让人困惑的公式：

$Var(X \pm Y) =Var(X) + Var(Y)$

或者写成：

$\sigma_{x \pm y}^2 = \sigma_{x}^2 + \sigma_{y}^2$

这组公式表示，合并两个随机变量后的方差，不管是相加还是相减，结果都等于这两个随机变量的方差之和。这个结论并不直观，要证明它的正确性，我们首先要证明另一个等式：

$Var(X) = E((X - \mu)^2) = E(X^2) - E^2(X)$

这里 $E((X - \mu)^2)$ 就是 $Var(X)$ ， $\mu$ 就是这个总体的期望值，即均值，也可记为 $E(X)$ 。详细可见本系列文章第一篇。回到上面式子的证明：

$E((X-\mu)^2) = \frac{(x_{1}-\mu)^2 + (x_{2}-\mu)^2 +... + (x_{n}-\mu)^2}{n}$

$=\frac{( x_{1}^2-2\mu x_{1} + \mu^2) + ( x_{2}^2-2\mu x_{2} + \mu^2) + ... + ( x_{n}^2-2\mu x_{n} + \mu^2)}{ n}$

$=\frac{(x_{1}^2 + x_{2}^2 + ... + x_{n}^2) -2\mu (x_{1} + x_{2} + ... + x_{n}) + n\mu^2}{n}$

$=\frac{(x_{1}^2 + x_{2}^2 + ... + x_{n}^2)}{n} -2\mu \frac{x_{1} + x_{2} + ...x_{n}}{n} + \frac{n\mu^2 }{n}$

$=E(X^2) - 2\mu^2 + \mu^2 = E(X^2) - \mu^2 =E(X^2) - E^2(X)$

证毕

现在回到 $Var(X \pm Y) = Var(X) + Var(Y)$ 的证明。不妨直接证明 $Var(X - Y)$ 的情况：

$Var(X - Y) = E([(X - Y) - E(X - Y)]^2)$

来到这一步，我们马上用上 $E((X - \mu)^2) = E(X^2) - E^2(X)$ 这个结论。于是，上式可以变成：

$E((X-Y)^2) - E^2(X - Y) = E(X^2 - 2XY + Y^2) - (E(X) - E(Y))^2$

$= E(X^2) - 2E(XY) + E(Y^2) - E^2(X) + 2E(X)E(Y) - E^2(Y)$

$=E(X^2) - E^2(X) + E(Y^2) - E^2(Y) + 2E(X)E(Y) - 2E(XY)$

可以留意到，前面四项，实质就是我们的最终结论:

$E(X^2) - E^2(X) = Var(X)$

$E(Y^2) - E^2(Y) = Var(Y)$

剩下的任务，就是要证明 $2E(X)E(Y) - 2E(XY) = 2(E(X)E(Y) - E(XY)) = 0$

也就是，只要证明 $E(X)E(Y) = E(XY)$ 即可。

证：

设总体X有m个元素，而总体Y有n个元素，有：

$E(XY) = \frac{x_{1}y_{1} + x_{1}y_{2} +..+ x_{1}y_{n} + x_{2}y_{1} + x_{2}y_{2} + .. + x_{2}y_{n}+....}{m \times n}$

$= \frac{x_{1}(y_{1}+..y_{n}) + x_{2}(y_{1}+..y_{n}) + ....x_{m}(y_{1}+..y_{n})}{m \times n}$

$= \frac{(x_{1} + x_{2} + ...x_{m})(y_{1} + y_{2}+...y_{n})}{m \times n} =\frac{(x_{1} + x_{2} + ...x_{m})}{m} \bullet \frac{(y_{1} + y_{2} + ...y_{n})}{n}$

$=E(X)E(Y)$

证毕。

因此，我们证得 $Var(X - Y) = Var(X) + Var(Y)$ 。

同理可证 $Var(X + Y) = Var(X) + Var(Y)$ ，读者们可以尝试一下。

P36-P41方差
方差随机变量的数学期望,称为随机变量的离差即离差平方的数学期望方差计算公式方差的性质随机变量相互独立 ...
期望与方差之五：两个独立随机变量合并后的方差
本系列前面四篇文章，均为本文铺垫。本文我们将要推导统计学入门时一个十分让人困惑的公式：或者写成：这组公式表示，...
大数据中的统计学基础——Day6
本章内容：期望方差协方差与矩一、期望离散型随机变量的数学期望：随机变量的期望值=加权均值 1、示例： ...
方差分解公式
在有些时候，直接计算随机变量的方差非常麻烦，此时可以用方差分解公式，将方差分解为条件期望的方差加条件方差的期望： ...
期望与方差之四：两个独立随机变量合并后的期望
随机变量（Random Variable）听起来是一个很复杂的概念，但是实际上并不难理解。我们重新回到本系列文章第...
统计自然语言处理
预备知识一、概率论 1.1 期望和方差期望值是指随机变量所取值的概率平均。方差是描述该随机变量的值偏离其期望...
统计自然语言处理-预备知识
一、概率论 1.1 期望和方差期望值是指随机变量所取值的概率平均。方差是描述该随机变量的值偏离其期望值...
100天搞定机器学习|Day59 主成分分析(PCA)原理及使用
数学概念方差：用来衡量随机变量与其数学期望（均值）之间的偏离程度。统计中的方差（样本方差）是各个数据分别与其平均...
神经网络基础
方差方差是衡量随机变量或一组数据离散程序的度量，用来度量随机亦是和其数学期望（即均值）值之间的离散程度。方差 ...
【数学】方差
方差（Variance）：方差用来度量随机变量和其数学期望（即均值）之间的偏离程度。标准差（Standard D...

期望与方差之五：两个独立随机变量合并后的方差

相关文章

P36-P41方差

期望与方差之五：两个独立随机变量合并后的方差

大数据中的统计学基础——Day6

方差分解公式

期望与方差之四：两个独立随机变量合并后的期望

统计自然语言处理

统计自然语言处理-预备知识

100天搞定机器学习|Day59 主成分分析(PCA)原理及使用

神经网络基础

【数学】方差

网友评论

延伸阅读

深度阅读

栏目导航

热点阅读