Seq2seqセンチメント分析を実装するTensorFlow

Question

私は現在、Tensorflow Seq2seqモデルでプレイしており、センチメント分析を実装しようとしています。私の考えは、[Pad]または[Go]のデコーダと[neg]/[pos]のターゲットをIMDBコメントでエンコーダに供給することです。私のコードのほとんどは、seq2seq変換の例と非常によく似ています。しかし、私が得た結果は非常に奇妙です。各バッチについて、結果はすべて[neg]またはすべて[pos]です。

"エンコーダ入力：私はほとんどすぐに引っ掛けた[パッド] [パッド] [パッド]。"

"デコーダ入力：[パッド"

"ターゲット：[POS]"

この結果は非常に特殊なものなので、誰かがこのようなことにつながるものを知っているのだろうかと思いました。

Answer 1

Logistic ClassifierにフィードするRNNまたはCNNエンコーダという、よりシンプルなアーキテクチャを試してみることをおすすめします。このアーキテクチャは、感情分析（アマゾンのレビュー、昆布のレビューなど）で非常に良い結果を示しています。

このようなモデルの例として、see here - さまざまなエンコーダ（LSTMまたは畳み込み）を単語と文字で使用できます。