CNTKの学習者向けの例

Question

私はバージョン2 Beta 9.0のMicrosftのPython CNTKチュートリアルを行っています。私は、利用可能なさまざまな学習者に渡すために推奨される値の例を持つ良い文書を見つけられませんでした。私はCNTK 103に取り組んで以下の学習者を取得することができました：パートBを - MNIST toturialとフォワードネットワークフィード：

lr_per_minibatch=learning_rate_schedule(0.2, UnitType.minibatch) 
    trainer = Trainer(z, ce, pe, sgd(z.parameters, lr=lr_per_minibatch)) 

    lr_per_minibatch=learning_rate_schedule(0.2, UnitType.minibatch) 
    trainer = Trainer(z, ce, pe, adagrad(z.parameters, lr=lr_per_minibatch)) 

    lr_per_minibatch=learning_rate_schedule(0.05, UnitType.minibatch) 
    trainer = Trainer(z, ce, pe, adam_sgd(z.parameters, lr=lr_per_minibatch, momentum=momentum_as_time_constant_schedule(700))) 

    lr_per_minibatch=learning_rate_schedule(0.2, UnitType.minibatch) 
    trainer = Trainer(z, ce, pe, nesterov(z.parameters, lr=lr_per_minibatch, momentum=momentum_as_time_constant_schedule(700))) 

    lr_per_minibatch=learning_rate_schedule(0.1, UnitType.minibatch) 
    trainer = Trainer(z, ce, pe, rmsprop(z.parameters, lr=lr_per_minibatch, gamma=0.90, inc=0.03, dec=0.03, max=0.1, min=0.1)) 

これらの作品が、誰もがそのパラメータの推奨値の良い例を持っていません各トレーナーは受け取りますか？

Answer 1

現在の学習者にとって、最良のパラメータは、データと解決している問題によって異なります。したがって、良い勧告を提供することは非常に困難です。 1つの典型的なアドバイスは、学習率がうまくいく場合には、より小さな学習率でも効果がありますが、もっと長く実行する必要があります。