WNTM、BTM、LF-LDAのような短いテキストのトピックモデルは、ドキュメント用語行列のようなものを作成しますか？

Question

私は短いテキストの話題モデリングを扱っており、同じテーマに焦点を当てた3つのモデル、すなわちBTM、WNTM、 ）。

私は従来のLDA（これはRパッケージtopicmodelsを使用して実装しました）では、テキスト文書の構造化されていない形がDocument-Term matrix（DTM）の構築を介してコンピュータ可読形式に変換されています。

私は、上記のモデルがDTMに似たマトリックスを作成する場合、特に同様の実装方法を使用しているのだろうかと思います。誰もそれを知っていますか？残念ながら、私は元の論文を読むことによってその情報を見つけることができませんでした。

ありがとうございます！

Answer 1

BTMとTKM（短いテキストの場合には、 - https://github.com/JohnTailor/tkm）は、DTM（Document Term Matrix）を構成しません。 WNTMはそれを構築するかもしれない。私はLF-LDAを知らない。 BTM、WNTMおよびTKMは、スライドウィンドウを使用して単語の位置を考慮する。 「家は白い」と「白い家は」ある種の環境下では異なる結果をもたらすかもしれない。 DTMは語順を捕捉しません。上記の例では、どちらも同じDTMを与えます。 WNTMは、トピック - 文書の分布を推測するときにDTMから利益を得るかもしれないが、そのパラメータ（単語 - トピック）の推論のためにはそうではない。