均方误差（Mean Square Error, MSE）

基本定义与性质

对于随机变量 \( Y \)，其均方误差定义为：

MSE = E[(Y - c)^2]

• 预测值选择：当用常数 \( c \) 预测 \( Y \) 时：
  • \( MSE = \text{var}(Y) + [E(Y) - c]^2 \)
  • 最小化条件：当 \( c = E(Y) \) 时，\( \min MSE = \text{var}(Y) \)

条件期望下的MSE

若 \( Y \) 与另一随机变量 \( X \) 相关：

MSE = \text{var}(Y|X) + [E(Y|X) - c]^2

• 条件MSE：\( MSE = E[(Y - c)^2 | X] \)
• 最优预测：当 \( c = E(Y|X) \) 时，\( \min MSE = \text{var}(Y|X) \)
• 对比：若错误地使用 \( c = E(Y) \)，MSE会增加 \( [E(Y|X) - E(Y)]^2 \)

例子

假设 \( Y \) 表示股票收益率，\( X \) 为市场指数。若已知 \( E(Y|X=10\%) = 8\% \)，则用 \( c=8\% \) 预测的误差最小。

条件期望的随机性（Random Conditional Expectations）

条件期望的性质

设 \( X, Y \) 为随机变量：

1. \( E[Y|X] \) 是随机变量，取值为 \( E[Y|x] \)（概率由 \( X \) 的分布决定）
2. 双重期望公式：

E(E[X_2|X_1]) = E(X_2)

3. 方差分解公式：

\text{var}(E[X_2|X_1]) + E(\text{var}[X_2|X_1]) = \text{var}(X_2)

学习建议

尝试证明方差分解公式（提示：从 \( \text{var}(X) = E(X^2) - [E(X)]^2 \) 出发）。