『確率と計算』 第3章
3. Moments and Deviations
3.1 Markov’s Inequality
$X$ が負の値をとらない確率変数であるとき、任意の $a > 0$ について
\[ \mathrm{Pr}(X \geq a) \leq \frac{\mathbf{E}[X]}{a} \]
3.2 Variance and Moments of a Random Variable
確率変数のモーメント: $k$ 番目のモーメントは $\mathbf{E}[X^k]$
分散の定義
\[ \mathbf{Var}[X] = \mathbf{E}[(X-\mathbf{E}[X])^2] = \mathbf{E}[X^2] - (\mathbf{E}[X])^2 \]
また、標準偏差 $\sigma[X] = \sqrt{\mathbf{Var}[X]}$ と定義する。
さらに、確率変数 $X$, $Y$ について共分散は
\[ \mathbf{Cov}(X,Y) = \mathbf{E}[(X-\mathbf{E}[X])(Y-\mathbf{E}[Y])] \]
分散と共分散の関係式
\[ \mathbf{Var}[X+Y] = \mathbf{Var}[X] + \mathbf{Var}[Y] + 2\mathbf{Cov}(X,Y) \]
$X$, $Y$ が独立なら $\mathbf{E}[X \cdot Y]=\mathbf{E}[X]\cdot\mathbf{E}[Y]$
3.3 Chebyshev’s Inequality
任意の $a>0$ について
\[ \mathrm{Pr}(|X-\mathbf{E}[X]|\geq a) \leq \frac{\mathbf{Var}[X]}{a} \]