缩放点积注意力实验台

调节匹配强度和头维,观察分数、softmax 权重与输出混合如何一起变化。

控制面板

2.0
64

当前一行注意力

权重行和1.000000
最大权重0
分布熵0