ケラス（lstm） - return_sequences = Trueを使用する場合に必要な形状

Question

私はLSTMネットワークをsin関数に適合させようとしています。現在、私がKerasを理解する限り、私のコードは次の値を予測するだけです。このリンクによれば、Many to one and many to many LSTM examples in Kerasは多対1モデルです。しかし、私の目標は、多対多のモデルを実装することです。基本的に、私は10の値を与えられた時間に予測することができるようにしたい。私は解決策であると考えられる return_sequences=Trueを（ラインmodel.add(..)を参照）、使用しようとしています場合は、次のエラーが発生します。

ValueError: Error when checking target: expected lstm_8 to have 3 dimensions, but got array with shape (689, 1) 

は残念ながら、私はこれがなぜ起こるか全く見当もつかない。 return_sequences=Trueを使用するときに入力形状をどのようにする必要があるのか​​という一般的なルールはありますか？さらに、私は何を変える必要がありますか？助けてくれてありがとう。

import pandas 
import numpy as np 
import matplotlib.pylab as plt 
from sklearn.preprocessing import MinMaxScaler 
from sklearn.model_selection import train_test_split 
from sklearn.metrics import mean_squared_error 
import sklearn 

from keras.models import Sequential 
from keras.layers import Activation, LSTM 
from keras import optimizers 
from IPython.display import SVG 
from keras.utils.vis_utils import model_to_dot 

#generate sin function with noise 
x = np.arange(0, 100, 0.1) 
noise = np.random.uniform(-0.1, 0.1, size=(1000,)) 
Y = np.sin(x) + noise 

# Perform feature scaling 
scaler = MinMaxScaler() 
Y = scaler.fit_transform(Y.reshape(-1, 1)) 

# split in train and test 
train_size = int(len(Y) * 0.7) 
test_size = len(Y) - train_size 
train, test = Y[0:train_size,:], Y[train_size:len(Y),:] 

def create_dataset(dataset, look_back=1): 
    dataX, dataY = [], [] 
    for i in range(len(dataset)-look_back-1): 
     a = dataset[i:(i+look_back), 0] 
     dataX.append(a) 
     dataY.append(dataset[i + look_back, 0]) 
    return np.array(dataX), np.array(dataY) 

# reshape into X=t and Y=t+1 
look_back = 10 
X_train, y_train = create_dataset(train, look_back) 
X_test, y_test = create_dataset(test, look_back) 

# LSTM network expects the input data in form of [samples, time steps, features] 
X_train = np.reshape(X_train, (X_train.shape[0], X_train.shape[1], 1)) 
X_test = np.reshape(X_test, (X_test.shape[0], X_test.shape[1], 1)) 
np.set_printoptions(threshold=np.inf) 

# compile model 
model = Sequential() 
model.add(LSTM(1, input_shape=(look_back, 1)))#, return_sequences=True)) <== uncomment this 
model.compile(loss='mean_squared_error', optimizer='adam') 
SVG(model_to_dot(model).create(prog='dot', format='svg')) 

model.fit(X_train, y_train, validation_data=(X_test, y_test), 
batch_size=10, epochs=10, verbose=2) 
prediction = model.predict(X_test, batch_size=1, verbose=0) 
prediction.reshape(-1) 
#Transform back to original representation 
Y = scaler.inverse_transform(Y) 
prediction = scaler.inverse_transform(prediction) 
plt.plot(np.arange(0,Y.shape[0]), Y) 
plt.plot(np.arange(Y.shape[0] - X_test.shape[0] , Y.shape[0]), prediction, 'red') 
plt.show() 
error = mean_squared_error(y_test, prediction) 
print(error) 

Answer 1

問題は入力ではなく出力です。 エラーは、 "ターゲットをチェックするときのエラー"、target = y_trainとy_testと表示されます。

lstmはシーケンスを返します（return_sequences = True）ので、出力ディメンションは（n_batch、lookback、1）になります。

あなたはmodel.summaryを（使用して、それを確認することができます）

_________________________________________________________________ 
Layer (type)     Output Shape    Param # 
================================================================= 
lstm_1 (LSTM)    (None, 10, 1)    12   
================================================================= 
Total params: 12 
Trainable params: 12 
Non-trainable params: 0 
_________________________________________________________________ 

あなたはので、各グランドトゥルースあなたcreate_dataset機能を変更する必要があります（ルックバック、1）形状にすることになります。

何かしたいことがあります：
列車セットの各区間xについて、その次の進行手順がyになります。
たとえば、わかりやすいことを学びたいとしましょう。順序は前の数字と1 - > 1,2,3,4,5,6,7,8,9,10となります。 loockback = 4の場合：

X_train[0] = 1,2,3,4 
y_train[0] will be: 2,3,4,5 
X_train[1] = 2,3,4,5 
y_train[1] will be: 3,4,5,6 
and so on...