估计量的风险 · 正态模型
把估计拉向 0,真的更准吗?
先预测:当真实均值从 1 变为 5,同样的“减半”操作还会有优势吗?图中的竖线是真值,曲线表示反复抽样得到的估计值。
实线:样本均值 X̄虚线:收缩估计 aX̄点线:真实均值 μ
把总误差拆开看
MSE(aX̄) = (偏差²) + (方差) =
| 估计量 | 偏差 | 标准差 | MSE |
|---|
这个模型里发生了什么?
设 X₁,…,Xₙ 独立同分布于 N(μ,σ²),σ > 0。样本均值的中心在 μ,标准差为 σ/√n;乘以 a 后,中心移到 aμ,标准差缩为 aσ/√n。
偏差 = (a−1)μ;方差 = a²σ²/n。
“有偏”只描述中心有没有对准真值。“更准”需要先指定损失与参数值。这里以平方误差评价;同一个 a 不会自动在所有 μ 上胜出。a = 0 时分布退化为 0 处的点质量,图中用箭头表示,不再是一条正态密度曲线。
最后把 n 增大:样本均值的方差持续下降,而固定 a < 1、μ ≠ 0 时,收缩偏差不会自行消失。