私は、このようなgensim LDAを使用してドキュメントの完全なトピック配布を取得するにはどうすればよいですか?
dictionary = corpora.Dictionary(data)
corpus = [dictionary.doc2bow(doc) for doc in data]
num_cores = multiprocessing.cpu_count()
num_topics = 50
lda = LdaMulticore(corpus, num_topics=num_topics, id2word=dictionary,
workers=num_cores, alpha=1e-5, eta=5e-1)
としての私のLDAモデルを訓練するとき、私はそれぞれ、すべての文書のすべてのnum_topics
の完全なトピック分布を取得したいです。つまり、この特定のケースでは、各文書に配布に寄与する50のトピックがあります。と 50のトピックすべてにアクセスできます。この出力はLDAの数学に厳密に従えばLDAがすべきことです。しかし、gensimは、hereのように特定のしきい値を超えるトピックのみを出力します。例えば、私はしかし、これは私のために動作しません、上記のリンクで解決策を試してみました89を文書化するのが最も貢献だけで3トピックを示し
lda[corpus[89]]
>>> [(2, 0.38951721864890398), (9, 0.15438596408262636), (37, 0.45607443684895665)]
をしようとした場合。私はまだ同じ出力を得る:
theta, _ = lda.inference(corpus)
theta /= theta.sum(axis=1)[:, None]
出力は、1文書につき2,3つの同じ出力しか出ない。
私の質問は、私は各文書のFULLトピック分布にアクセスすることができますので、私はこのしきい値を変更するにはどうすればよいのですか?どのようにトピックの文書への寄与が重要ではないにしても、どのようにして完全なトピックの配布にアクセスできますか?私が完全配布を望む理由は、文書の配布の間にKL similarityの検索を実行できるからです。事前