機械学習における正規化と正規化の違い

Question

正規化は正規化のサブセットですか？正規化は、すべての値が同じスケールではなく、正規化が値のトーンダウンにも使用され、正規化も使用される場合に使用されることがわかります。

Answer 1

Normalisationはデータを調整します。 regularisationは、予測関数を調整します。

ご存じのように、データが非常に異なるスケール（特に低から高）である場合は、normaliseのデータが必要です。各列を同じ（または互換性のある）基本統計標準偏差と平均として。これは、コンピュータの精度を損なうことなく処理できるスケールでフィッティングパラメータを維持するのに役立ちます。

モデルトレーニングの目標の1つは、信号（重要な特徴）を識別し、ノイズ（分類には実際には関係しないランダムな変化）を無視することです。モデルに自由度を与えて、与えられたデータの誤差を最小限に抑えると、過剰適合が起こります。モデルは、ランダムな変化を含めて、データセットを正確に予測することを主張します。

Regularisationは、複雑なものよりも簡単なフィッティング関数に報酬を与えることによって、これに対して何らかの制御を課す。たとえば、xのRMSエラーを持つ単純なログ関数が、エラーがx/2の15次多項式よりも優れていることを促進することができます。トレードオフの調整はモデル開発者次第です。の場合、実際にデータがかなり滑らかであることが分かっている場合は、出力関数とフィッティングエラーを見て、独自のバランスを選択することができます。