把文本变成共现矩阵
修改语料与窗口,点击任意矩阵单元格,查看共现次数、对数目标和 GloVe 权重如何联动。
语料与统计口径
最多显示前 12 个高频词,避免矩阵过宽。统计保留方向:行是中心词,列是上下文词。
词—上下文共现矩阵 X
当前词对—
共现 Xᵢⱼ—
目标 log Xᵢⱼ—
权重 f(Xᵢⱼ)—
先点击一个非零单元格。GloVe 只在非零共现上拟合;次数很小的格子会被降权,减少偶然共现的影响。
修改语料与窗口,点击任意矩阵单元格,查看共现次数、对数目标和 GloVe 权重如何联动。
最多显示前 12 个高频词,避免矩阵过宽。统计保留方向:行是中心词,列是上下文词。