機械学習アルゴリズム - ブースティング、相互作用深さの数、d

Question

私はブースティングアルゴリズムを学習しています。私は少数の相互作用の深さがより大きい数よりもうまくいく理由を考えてきましたか？そして、人々は通常どのように相互作用の深さの数を選択するのですか？

ありがとうございました！

Answer 1

木の相互作用の深さを意味する場合。 （R）

オーバーフィッティングが問題になります。

あなたのトレーニングデータは、テストデータの完全なイメージを与えると想定されているものに多く適応します。

多項式をポイントのセットにフィッティングした後、未知のポイントを追加するように考えてください。多項式の次数が高くなればなるほど、既知のデータに多かれ少なかれ適合することができますが、これはピーク機能をもたらす可能性があります。 新しいポイントを追加すると、それらのポイントがあなたの機能でカバーされていない可能性があります。