機械学習のための積み重ねで、モデルを訓練する必要がありますか？

Question

私は現在、機械学習の問題で積み重ねることを学んでいます。私は最初のモデルの出力を取得し、これらの出力を2番目のモデルのフィーチャとして使用します。

私の質問は次のとおりです。注文は重要ですか？私は、ラスソ回帰モデルとブーストツリーを使用しています。私の問題では、回帰モデルはブーストされたツリーよりも優れています。したがって、私は回帰ツリー2番目と増強ツリーを最初に使うべきだと考えています。

この決定を行う際に私が考える必要がある要因は何ですか？

Answer 1

フィーチャエンジニアリングでもっと多くの機能を作成してみませんか？ あるモデルの予測を別のモデルのフィーチャとして使用しないでください。 K-meansを使用して同様のトレーニングサンプルをクラスタリングできます。 スタッキングするには、異なるモデルを使用し、結果を平均します（連続するy変数があると仮定します）。