sigmoid
用于决策σ(sᵢ) = 1 / (1 + e−sᵢ)
三项概率之和0.000
神经网络表示 · 输出层实验
同一组 logits，为什么会得到不同答案？
先确定标签能否同时成立，再选择概率变换。下面始终使用同一组输出分数，让 sigmoid 的独立判断和 softmax 的竞争分配直接对照。
先定义标签关系
任务关系决定最终采用哪一种输出头。
当前问题
调节输出分数
logit 是激活前的实数分数。拖动后，两组概率和最终判断会同步更新。
看两种变换怎样处理它们
sigmoid 分别变换每个分数；softmax 先比较三个分数，再把总概率分成 1。
softmax
只作对照pᵢ = esᵢ / Σⱼ esⱼ
三项概率之和1.000
这次该怎么判
最终输出
为什么
当前输出头
决策规则
- 只问一个“是否”一个 logit，经 sigmoid 后与阈值比较。
- 只能选一个类别多个 logits 经 softmax 竞争，再取最大项。
- 标签可以并存每个 logit 独立 sigmoid，再分别过阈值。