标准方差是方差无偏估计的证明——编辑版

1、问题描述：假设有一批独立同分布的样本{$x_i,i=1,2,\mathrm{3...},n-1,n$}。
标准方差的公式为：
$$S^2=\frac{1}{n-1}\sum _{i=1}^n(x_i-\overline{x}{)}^2$$
,其中$\overline{x}=\frac{1}{n}{\sum }_{i=1}^n{x}_i$；

另外假设均值$E(x_i)=\mu$,方差$D(x_i)={\sigma }^2$；

证明：标准方差是方差的无偏估计。

【分析】：要想证明标准方差是方差的无偏估计，只需证明$E(S^2)={\sigma }^2=D(x_i)$，其中比较麻烦的地方是$x_i\ast \overline{x}$，所以要把$\overline{x}$中的$x_i$分离处理。

2、证明开始：
$$\begin{array}{rl}E(S^2)& =E(\frac{1}{n-1}\sum _{i=1}^n(x_i-\overline{x}{)}^2)\\ & =\frac{1}{n-1}E(\sum _{i=1}^n(x_i-\frac{1}{n}{x}_i-\frac{1}{n}\sum _{j\ne i,j=1}^n{x}_j{)}^2)\\ & =\frac{1}{n-1}E(\sum _{i=1}^n(\frac{(n-1{)}^2}{n^2}{x}_i^2-\frac{2(n-1)}{n^2}{x}_i\ast \sum _{j\ne i,j=1}^n{x}_j+\frac{1}{n^2}(\sum _{j\ne i,j=1}^n{x}_j{)}^2))\end{array}$$
下面将$E(\cdot )$中的三部分分别计算，按照从左往右的顺序，系数$\frac{1}{n-1}$暂时不带，最后算完结果一起带入。
第一部分：
$$\begin{array}{rl}E(\sum _{i=1}^n(\frac{(n-1{)}^2}{n^2})x_i^2)& =\frac{(n-1{)}^2}{n^2}\sum _{i=1}^{n}E(x_i^2)\\ & =\frac{(n-1{)}^2}{n^2}\sum _{i=1}^n(E^2(x_i)+D(x_i))\\ & =\frac{(n-1{)}^2}{n^2}\sum _{i=1}^n({\mu }^2+{\sigma }^2)\\ & =\frac{(n-1{)}^2}{n}({\mu }^2+{\sigma }^2)\end{array}$$
第二部分：
$$\begin{array}{rl}E(\sum _{i=1}^n(\frac{2(n-1)}{n^2}{x}_i\ast \sum _{j\ne i,j=1}^n{x}_j))& =\frac{2(n-1)}{n^2}\sum _{i=1}^{n}E(x_i\ast \sum _{j\ne i,j=1}^n{x}_j))\\ & =\frac{2(n-1)}{n^2}\sum _{i=1}^n(E(x_i)\ast \sum _{j\ne i,j=1}^{n}E(x_j))\\ & =\frac{2(n-1)}{n^2}\sum _{i=1}^n(\mu \ast (n-1)\mu )\\ & =\frac{2(n-1)}{n^2}\ast n\ast (n-1)\ast {\mu }^2\\ & =\frac{2(n-1{)}^2\ast {\mu }^2}{n}\end{array}$$
第三部分：
$$\begin{array}{rl}E(\sum _{i=1}^n(\frac{1}{n^2}(\sum _{j\ne i,j=1}^n{x}_j{)}^2))& =\frac{1}{n^2}\sum _{i=1}^{n}E(((\sum _{j\ne i,j=1}^n{x}_j{)}^2))\\ & =\frac{1}{n^2}\sum _{i=1}^n(E^2(\sum _{j\ne i,j=1}^n{x}_j)+D(\sum _{j\ne i,j=1}^n{x}_j))\\ & =\frac{1}{n^2}\sum _{i=1}^n((\sum _{j\ne i,j=1}^n{E}^2(x_j))+\sum _{j\ne i,j=1}^{n}D(x_j))\\ & =\frac{1}{n^2}\sum _{i=1}^n(((\sum _{j\ne i,j=1}^n\mu {)}^2)+\sum _{j\ne i,j=1}^n{\sigma }^2)\\ & =\frac{1}{n^2}\sum _{i=1}^n((n-1{)}^2\ast {\mu }^2+(n-1)\ast {\sigma }^2)\\ & =\frac{(n-1{)}^2}{n^2}\ast n\ast {\mu }^2+\frac{n-1}{n^2}\ast n{\sigma }^2\\ & =\frac{(n-1{)}^2}{n}\ast {\mu }^2+\frac{n-1}{n}{\sigma }^2\end{array}$$
终于到了相加的时候了，将1-3部分的内容带上系数相加如下：
$$\begin{array}{rl}(n-1)E(\cdot )& =\frac{(n-1{)}^2}{n}({\mu }^2+{\sigma }^2)-\frac{2(n-1{)}^2\ast {\mu }^2}{n}+\frac{(n-1{)}^2}{n}\ast {\mu }^2+\frac{n-1}{n}{\sigma }^2\\ & =\frac{(n-1{)}^2}{n}{\sigma }^2+\frac{n-1}{n}{\sigma }^2\\ & =\frac{n^2-n}{n}{\sigma }^2\\ & =(n-1){\sigma }^2\end{array}$$
所以
$$E(\cdot )={\sigma }^2$$
得证。
注：标准方差前面的系数$\frac{1}{n-1}$是为了让其是方差的无偏估计而加上的。