ニューラルネットワークのチューニングサイズパラメータ

Question

キャレットパッケージを使用してニューラルネットワークモデルに適合したいと思います。208の予測子がすべて重要であり、破棄することはできません。 サイズパラメータに与えることができる最大値は4を超えていますが、重みが多すぎるというエラーが表示されます。

> ctrl<-trainControl(method = 'cv',number = 5) 
> my.grid <- expand.grid(.decay = 0.1, .size =5) 
> nn.fit <- train(train_predictors,train_responses[["r2c1"]],method = "nnet",algorithm = 'backprop', tuneGrid = my.grid,trace=F, linout = TRUE,trControl = ctrl) 
Something is wrong; all the RMSE metric values are missing: 
     RMSE  Rsquared  MAE  
Min. : NA Min. : NA Min. : NA 
1st Qu.: NA 1st Qu.: NA 1st Qu.: NA 
Median : NA Median : NA Median : NA 
Mean :NaN Mean :NaN Mean :NaN 
3rd Qu.: NA 3rd Qu.: NA 3rd Qu.: NA 
Max. : NA Max. : NA Max. : NA 
NA's :1  NA's :1  NA's :1  
Error: Stopping 
In addition: Warning messages: 
1: model fit failed for Fold1: decay=0.1, size=5 Error in nnet.default(x, y, w, ...) : too many (1051) weights 

2: model fit failed for Fold2: decay=0.1, size=5 Error in nnet.default(x, y, w, ...) : too many (1051) weights 

3: model fit failed for Fold3: decay=0.1, size=5 Error in nnet.default(x, y, w, ...) : too many (1051) weights 

4: model fit failed for Fold4: decay=0.1, size=5 Error in nnet.default(x, y, w, ...) : too many (1051) weights 

5: model fit failed for Fold5: decay=0.1, size=5 Error in nnet.default(x, y, w, ...) : too many (1051) weights 

6: In nominalTrainWorkflow(x = x, y = y, wts = weights, info = trainInfo, : 
    There were missing values in resampled performance measures. 

モデルは非常に悪い4個のニューロン（サイズ= 4）で行い.What私は私が5個の以上のニューロンを持つようにしたい場合はモデルの仕事をするために行うことができますか？

Answer 1

チューニンググリッドには、nnet方式に指定できる他のパラメータがあります。各メソッドの利用可能なパラメータはオンラインで入手できますが、見つけるのは難しいです。 adam nnにmxnetを使用した私の例は次のとおりです。

mxnet_grid_A2 = expand.grid(layer1 = c(10, 12), 
          layer2 = c(4, 6), 
          layer3 = 2, 
          learningrate = c(0.001, 0.0001), 
          dropout = c(0, 0.2) 
          beta1 = .9, 
          beta2 = 0.999, 
          activation = 'relu')