残差捷径尺寸配对实验

残差块做的是逐元素相加:空间高宽和通道数必须逐一相等。先配尺寸,再讨论“捷径”是恒等映射还是可学习投影。

接线参数

捷径方式

主分支 + 捷径分支

图中“+”表示同位置、同通道元素相加。

相加 ≠ 拼接:若两个分支都是 H×W×C,相加后仍是 H×W×C;沿通道拼接则会变成 H×W×2C,语义和后续参数量都不同。

  • 本图只画卷积核与通道变换;实际实现通常还包含归一化、激活和特定的激活顺序。
  • 是否使用投影捷径由张量尺寸决定,也受具体网络实现约定影响。
  • “瓶颈”是在较窄中间通道上做 3×3,再用 1×1 恢复输出通道;不要把名字误解成训练瓶颈。