LSTM 与 GRU 门控状态实验台

拖动门值,直接观察“保留多少旧状态、写入多少候选、向外读出多少”。这里展示单个维度;真实模型会对每个状态维度分别学习门值。

LSTM:独立记忆通道

cₜ = f·cₜ₋₁ + i·g  hₜ = o·tanh(cₜ)

旧细胞状态
新细胞 / 隐状态

GRU:单状态插值

hₜ = z·hₜ₋₁ + (1-z)·n  n 受 r 控制

实验中令候选状态 n = tanh(q + r·hₜ₋₁),便于看见重置门只影响候选路径。

旧隐藏状态
候选 / 新状态

同样跨越 50 步时

LSTM 直接保留率f⁵⁰
GRU 直接保留率z⁵⁰
当前判断门值随样本变化