概率不等式、收敛概念与大数定律

Markov 与 Chebyshev 上界比较

调节四个量，观察只依赖均值或方差的信息会给出怎样的概率上界。图中“示例真实概率”分别取同均值指数分布、同方差正态偏离概率作为参照。

\( X \ge 0,\ a>0:\quad P(X\ge a)\le \frac{E[X]}{a} \)

\( E[X]=\mu,\ Var(X)=\sigma^2:\quad P(|X-\mu|\ge \varepsilon)\le \frac{\sigma^2}{\varepsilon^2} \)

均值 \(\mu=E[X]\) Markov 只使用这个量方差 \(\sigma^2=Var(X)\) Chebyshev 只使用这个量阈值 \(a\) 事件 \(X\ge a\) 误差 \(\varepsilon\) 事件 \(|X-\mu|\ge\varepsilon\)

概率尺：0 到 1

上界与示例真实概率

上界超过 1 时，作为概率结论会截到 1；原始数值仍在结果面板中显示。

用于非负随机变量的右尾事件。

原始上界

0.429

同均值指数分布示例 \(P(X\ge a)\) 0.097

Markov 上界 \(E[X]/a\) 0.429

用于距离均值至少 \(\varepsilon\) 的偏离事件。

原始上界

0.250

同方差正态示例 \(P(|X-\mu|\ge\varepsilon)\) 0.046

Chebyshev 上界 \(Var(X)/\varepsilon^2\) 0.250

上界只使用少量矩信息，因此常比具体分布下的真实概率大。