有限差分梯度检查实验台

解析反向传播与中心差分分别算一遍，再用相对误差做“对账”。

待检查的小函数

L = ½(tanh(w₁x+w₂)−t)²，x=1.3，t=−0.4

键盘：G 运行，R 重置。拖动参数会立即重新检查。

两种梯度的对账单

参数解析梯度中心差分绝对差
如果 ε 太大，曲线弯曲造成截断误差；如果 ε 太小，两个接近的损失相减会放大舍入误差。检查通过说明这一个点附近一致，不等于对所有输入都已证明正确。