极限定理 | Limit Theorems

马尔可夫不等式 | Markov's Inequality

定理陈述

对于任意非负随机变量（non-negative random variable）X 和任意 a > 0，有：

P(X \geq a) \leq \frac{E[X]}{a}

证明推导

1. 定义指示函数（indicator function）I = \begin{cases} 1 & \text{if } X \geq a \\ 0 & \text{otherwise} \end{cases}
2. 显然有 I \leq \frac{X}{a}（当 X \geq a 时，左边为1，右边 ≥1；当 X < a 时，左边为0，右边 ≥0）
3. 取期望：E[I] \leq E\left[\frac{X}{a}\right]
4. 左边 E[I] = P(X \geq a)，右边 E\left[\frac{X}{a}\right] = \frac{E[X]}{a}
5. 综上：P(X \geq a) \leq \frac{E[X]}{a}

示例与应用

例子：假设某设备寿命 X（小时）满足 E[X] = 100，用马尔可夫不等式估计 P(X \geq 500) 的上界。

解：

P(X \geq 500) \leq \frac{100}{500} = 0.2

学习建议：

• 马尔可夫不等式适用于所有非负随机变量，但不一定给出紧的上界。
• 练习：若 X 服从指数分布 Exp(\lambda)，计算真实概率并与马尔可夫不等式的估计比较。

切比雪夫不等式 | Chebyshev's Inequality

定理陈述