Python - 意思決定ツリーとユニークなラベル/機能の処理

Question

タイトルが完全であるかどうかはわかりません。 私はMachine Learningを初めて使い、Scikitと意思決定ツリーを使用しています。

ここで私がしたいことがあります。私はすべての入力を受け取り、クライアントIDである一意の機能を含める必要があります。現在、クライアントIDは一意であり、決定木の分析で機能が通常の方法で集計することはできません。ここで起こっていることは、ツリーがクライアントIDを他の整数値として取得していることです。たとえば、クライアントIDが430未満のものは、430以上のものとは別のパスに入ります。これは正しくなく、私が望むものではありませんする。私がしたいことは、特定のフィールドをこのような方法で分析することができず、各クライアントが独自の支店を持つことを意思決定ツリーに理解させることです。これは決定木で可能ですか？

私はいくつかの回避策を用意していますが、そのうちの1つはクライアントごとに固有の決定木を作成することですが、これを訓練するのは悪夢です。もう1つの回避策を講じて、800人のクライアントがいるとしたら、ビットフィールドを持つ800個の機能を作成しますが、これも狂っています。

Answer 1

これは、機械学習ではかなり一般的な問題です。いずれの場合も、機械学習機能は各インスタンスに固有のものであってはなりません。直感的には理にかなっています。アルゴリズムはを学ぶことはできませんが、その機能から外挿することはできません。

あなたができることは、残りの機能をパスする前に決定木からその情報を分けて、IDと予測が再作成された後に再マージすることです。

IDをどのような形式でも含めるために、どのような種類の操作を行うことを強くお勧めします。機能は、アルゴリズムが決定を下すために使用することになっているものであると考えられています。あなたが使用したくない情報を与えないでください。 IDを機能として使用しないようにしたいのは、あなたが予測しようとしているものに（ほとんどの場合）IDが関係していないからです。

個々のモデルが必要な場合（また、各ユーザーに十分なデータがあれば）、それはあなたが思っているほど大きな痛みではありません。 Scikitのmodel saving featureとこの回答をsaving pickles to MySQLで使用すると、パーソナライズされたモデルを簡単に作成して保存できます。ユーザー数が非常に多い場合を除き、パーソナライズされたデシジョンツリーを作成するのにはあまり時間がかかりません。