Google Cloud MLエンジンは、ハイパーパラメータの調整にグリッド検索を使用していますか？

Question

グリッド検索技術は、機械学習モデルのための最適なハイパーパラメータのセットを見つけるために使いやすく、恥ずかしいほどパラレルなアプローチです。 Google Cloud Machine Learning（ML）エンジンでグリッド検索が使用されていますか？

Answer 1

No.グリッド検索は使いやすく分かりやすいですが、dimensionality problemの呪いに悩まされています。グリッド検索の代わりに、Google Cloud ML EngineはGaussian process banditsというアルゴリズムに基づいてBayesian optimization techniqueを使用します。

クラウドMLエンジンで使用される基礎となる技術は、Google ResearchプロジェクトVizier（Googleでの実質的なパラメータ調整エンジンとなっているブラックボックス最適化を実行するGoogle内部サービス）からのものです。