Cauchy-Schwarz不等式、Hölder不等式与Minkowski不等式

本文介绍几个常用的与期望有关的不等式。

1 Cauchy–Schwarz不等式

Cauchy–Schwarz不等式有许多形式，这里只介绍它的期望函数的形式。

Cauchy–Schwarz不等式：
$$[\text{E}(XY){]}^2\le \text{E}(X^2)\text{E}(Y^2)$$

证明非常简单，只需先将$Y$分解为相互正交的两部分（类似于OLS回归）：
$$Y=\frac{\text{E}(XY)}{\text{E}(X^2)}X+\left(Y-\frac{\text{E}(XY)}{\text{E}(X^2)}X\right)$$
然后两边取平方，再求期望。注意到取平方后交叉项的期望
$$\text{E}\left[\frac{\text{E}(XY)}{\text{E}(X^2)}X\cdot \left(Y-\frac{\text{E}(XY)}{\text{E}(X^2)}X\right)\right]=\frac{\text{E}(XY{)}^2}{\text{E}(X^2)}-\frac{\text{E}(XY{)}^2}{\text{E}(X^2)}=0$$

交叉项期望为$0$，因此，只剩平方项的期望：
E(Y2)=E(XY)2E(X2)2E(X2)+E[(Y−E(XY)E(X2)X)2]≥E(XY)2E(X2) \begin{aligned} \text{E}(Y^2)&