上下文窗口实验室
同一句话、同一个窗口,CBOW 与 Skip-gram 会把监督信号组织成不同形状。先选中心词,再观察箭头方向与训练样本如何同步改变。
12
CBOW:上下文汇入中心词
经典 Word2Vec 用窗口决定哪些词算邻居,但 CBOW 通常把窗口内上下文聚合为词袋表示;它知道哪些词被选进来,却不等于保留它们在句中的完整先后顺序。窗口越宽,能看到的邻居通常越多,同时训练样本或单步计算成本也会上升。
同一句话、同一个窗口,CBOW 与 Skip-gram 会把监督信号组织成不同形状。先选中心词,再观察箭头方向与训练样本如何同步改变。
经典 Word2Vec 用窗口决定哪些词算邻居,但 CBOW 通常把窗口内上下文聚合为词袋表示;它知道哪些词被选进来,却不等于保留它们在句中的完整先后顺序。窗口越宽,能看到的邻居通常越多,同时训练样本或单步计算成本也会上升。