分類のためのテキストデータの扱い

Question

離散値とテキストの文字列からなる入力データがあり、出力はタグのセットであると仮定します。

これをニューラルネットに入力できるデータに変換するには、テキスト入力の処理方法を理解することができません。

テキスト入力のみを使用して、思考ベクトルを生成するRNNが動作すると仮定しますが、入力データの残りの部分をどのようにフィードするのかは少しは不明です。

Answer 1

RNNを使用してテキスト入力を処理する場合、RNNの出力を個別の機能のワンホットエンコーディングと連結することができます。次いで、連結されたベクトルを出力層に供給することができる（例えば、マルチラベルにわたるクロスエントロピー損失を計算するロジスティック）。

同様に、埋め込みレイヤーを使用して入力テキストをマッピングしている場合、個別のフィーチャの別の埋め込みも学習できます。 2つの埋め込みフィーチャファミリを連結して、出力レイヤに供給することができます。