word2vec check next/prev word確率

Question

word2vecの使用中に、現在の単語がUSまたはmondayの場合、その単語を確認するにはtheは、USの前に来る可能性が高いです。 nextは、単語mondayの前に共通のオカレンスがありますか？

Answer 1

word2vecは単語のベクトルを訓練するための単語の予測を使用しますが、実際にはそのような予測を行うツールではありません。訓練中に、可能性のある対の単語のそのような正確な確率は形成されず、訓練の後、その確率は最終的な単語ベクトルから読み取られ/計算されない。

word2vecの密な単語の埋め込みではなく、単に単語の共起の生のカウントを作成して、それらの生のカウントを使用して、可能性のある単語の先行/後継について判断することができます。