窗口如何影响跳跃语法的准确性?

问题描述 投票:0回答:1

我想知道跳跃语法模型的window_size如何影响单词嵌入中预测相似单词的准确性。在什么情况下精度会下降或上升。

谢谢。

neural-network word2vec word-embedding
1个回答
0
投票
如果您想预测中心词,则进行培训只是用有用的相对排列来创建词向量集而已。

因此,对于word2vec的大多数使用,您提出的问题并不相关。您

不应选择可以使word2vec内部培训任务获得最佳准确性的window值;您

应该选择一个window,它可以为您考虑的任何下游使用提供最佳的字向量。

((如果出于某些学术/好奇心原因,您需要知道问题的答案,则需要进行实验:尝试许多window值,然后让模型预测单词并比较准确性。但是请注意,许多word2vec实现甚至都没有提供用于单个单词预测的API,因为培训和大多数下游使用都不需要此API。)
© www.soinside.com 2019 - 2024. All rights reserved.