kerasに高度な最適化メソッドはありますか？そうでない場合、どのように使用できますか？

Question

オプティマイザがケラスにあることは知っていますが、確率的平均勾配（SAG）や確率分散勾配（SVRG）などの方法について話していますか？ 誰も彼のプロジェクトで以前に使ったことがありますか？どうやって？

Answer 1

最近、プロジェクトでSGDを介してRMSpropを試しました。私のアプリケーションでは、RMSpropはSGDよりもはるかに高速にネットワークを訓練します。 Kerasにオプティマイザを切り替えは、例えば、本当に簡単ですSGDからRMSprop

に

rmsprop = RMSprop(lr=0.0001) 

model.compile(loss='binary_crossentropy', 
       optimizer=rmsprop, 
       #optimizer = sgd, 
       metrics=['accuracy']) 

スイッチングコメントにセルギで指摘したように、あなたが選ぶことができ、そこからオプテ​​ィマイザのリストがあります。