深层神经网络 · 实验记录 04-C

训练 / 验证曲线诊断

曲线不是“病名打印机”,更像训练现场留下的笔迹。逐案观察两条损失线,先独立作出诊断与下一步选择,再打开完整解析。

先看共同趋势
再看分叉、波动与量级
场景 1 / 5

训练记录

训练 60 轮
训练损失 · 实线验证损失 · 虚线

诊断单

1最符合哪一种现象?
2下一步最值得先做什么?

一条不该颠倒的排查顺序

① 先证实现可信核对数据、损失、shape、标签对齐、前向/反向实现与梯度统计。
② 再证优化能走检查学习率、初始化、归一化、数值范围,以及小批数据能否被拟合。
③ 最后调泛化证实管线与优化无误后,再谈容量、数据增强、权重衰减、Dropout 与早停。

曲线只是线索,不是单独证据。同一种形状可能由不同原因造成:验证集分布漂移会像过拟合,标签错位会像欠拟合,溢出或非法值也可能伪装成学习率问题。优先排查实现、shape 与梯度,再调整容量或正则化。