NNトレーニング対デプロイメントの計算要件

Question

NNを導入するための計算要件とトレーニングのための計算要件を理解しようとしています。

私は検索し、私が見つけたすべての参照は、トレーニングの需要と話します。

私は期待していますが、1つのテストイベントに対して1つのトレーニングイベントで需要が大きく変化しないとは思っていません。

私は、訓練されたモデルを展開してオフラインの携帯電話と言うことが可能かどうかを理解しようとしています。

私が理解しているように、携帯電話は、入力データを収集して送信し、結果を計算して返すセントラルサーバー（例）に送信します。

画像解析のようなものを想定すると、いくつかの低消費電力デバイスに事前に訓練された状態で導入することは可能でしょうか？

Answer 1

はい携帯電話に事前トレーニングされたモデルを導入することは可能です。

• ：あなたは
• あなたは生産のために、いくつかの方法でモデルを最適化することができ、トレーニング時間の画像のバッチ対展開モデルで一つの画像を処理する通常
  1. ：ので、生産&トレーニングの違いはかなり大きいですいくつかの層を除外するドロップアウト、バッチ正規
  2. 量子化モデル（INT8によってフロートを置き換える）
  3. 携帯電話のGPU、DSP上で実行モデル（Snapdragon Neural Processing Engine SDK参照）