分散がある限られた数のポイントに対する最適なパラメータ最適化アルゴリズム

Question

私はアルゴリズムをメタ最適化しようとしていますが、これはほぼ定数を持ちます。私は遺伝的アルゴリズムのいくつかの形式を使用する必要がありますね。しかし、アルゴリズムそのものは、本質的に非常に重く確率的である（アリコロニー最適化のバージョン）。したがって、いくつかのパラメータのセットに対する適応度の計算は非常に遅く、その結果には多くの分散が含まれます。パラメータのいくつかの大きさのオーダでさえも正確ではないので、一部のコンポーネントの分布は対数である必要があります。

誰かがこの問題の適切なアルゴリズムに関するアイディアを持っていますか？私。限られた数の測定点で収束する必要があり、また、測定された適合度におけるランダム性を扱うことができる必要がある。また、Javaで実装する方が簡単です。 :)

Answer 1

モデルを代数的に（または微分方程式として）表現できる場合は、微分ベースの最適化メソッドを試すことを検討してください。これらは理論上の特性を持ち、ブラックボックス/派生物を含まない最適化方法よりもはるかに計算効率が高いです。 MATLABライセンスをお持ちの場合は、fminconを試してみてください。注：派生情報を提供すると、fminconはもっとうまく動作します。他のモデリング環境にはPyomo、CasADi、Julia/JuMPがあり、自動的に微分を計算し、強力な最適化ソルバとのインタフェースを行います。