上下文窗口实验室

同一句话、同一个窗口,CBOW 与 Skip-gram 会把监督信号组织成不同形状。先选中心词,再观察箭头方向与训练样本如何同步改变。

12
训练方式

CBOW:上下文汇入中心词

别把“窗口”误解成完整词序。

经典 Word2Vec 用窗口决定哪些词算邻居,但 CBOW 通常把窗口内上下文聚合为词袋表示;它知道哪些词被选进来,却不等于保留它们在句中的完整先后顺序。窗口越宽,能看到的邻居通常越多,同时训练样本或单步计算成本也会上升。

即时判断

半径为 2、中心词为“真的”时,切换为 Skip-gram 会发生什么?