最高点一定能用导数找到吗?
10 次试验出现 6 次成功。先预测:把成功概率从 0.5 移到 0.6,数据会变得更有说服力吗?再把成功数改成 0,寻找曲线的最高点。
横轴:候选参数 p;纵轴:相对似然 L(p) / L(p̂)。实线是整条曲线,圆点是当前参数,虚线标出最大似然估计。
- 相对似然
- 对数似然 ℓ(p)
- 得分 U(p)
沿曲线读出“为什么”
ℓ(p) = s log p + (n−s) log(1−p)
U(p) = s/p − (n−s)/(1−p),0 < p < 1
p̂ = s/n;L(p)/L(p̂) = exp[ℓ(p)−ℓ(p̂)]
内部点的得分是曲线的上坡方向:正值表示向右还能增加对数似然,负值表示应向左走。只有内部最高点才需要满足得分为 0。全部失败时 ℓ(p) = n log(1−p) 单调下降;最高点在 p = 0,无须寻找“导数等于 0”。
相对似然不是“参数正确的概率”。纵轴最高值被标准化为 1,只用于比较同一批数据对不同候选参数的相对支持。这里使用一串已观察结果的似然;若写成功总数的似然,多出的组合数不改变曲线的相对高度或最高点。