Stochastic process · renewal reward
累计奖励,按总时间结算。
每一轮更新过程都有一个周期长度 X 和一笔奖励 R。把周期一轮轮接起来,你会看到长期平均并不是“每轮奖励的平均”,而是沿着时间轴累计出来的总奖励与总时间之比。
长期比率 ≈ 总奖励 ÷ 总时间理论值:E[R] ÷ E[X]
给过程一组周期
用逗号分隔正数,例如 2, 3, 4。
奖励可以为 0,但不能为负数。
At cycle 6
更新报酬过程的累计轨迹
1.8421
35
累计奖励 ΣR19
累计时间 ΣX1.8421
理论 E[R] ÷ E[X]累计奖励轨迹理论长期斜率当前观测点
读图:周期奖励会在一个周期结束时跳增,而时间持续向前。随着周期数增加,累计奖励 ÷ 累计时间会围绕理论比率变化并逐渐稳定;它不是各轮 R 的简单平均。