データがバケットに格納されたオンライン予測

Question

私の理解によると、オンライン予測はjsonデータで動作します。現在、私はローカルホスト上でオンライン予測を行っています。ローカルホストでは、各画像がjsonに変換されます。 ML engin APIは、このjsonをローカルホストから使用して予測します。 内部的にMLエンジンAPIが予測のためにjson to cloudをアップロードしている可能性があります。

すでにクラウドバケットにアップロードされているjsonファイルに対してオンライン予測を実行する方法はありますか？

Answer 1

内部的には、要求内のペイロードからの入力を直接処理するために解析し、要求をディスクに格納しません。現在、クラウドからの入力を読み込むことは、オンライン予測ではサポートされていません。クラウドに保存されたファイルからデータを読み取るbatch predictionを使用することを検討することができます。

の文字列を入力する（おそらくあなたの場合のように）を受け入れるモデルでは、オンラインとバッチ間の入力にわずかな不一致があります。この場合、イメージのバイトをbase64でエンコードし、オンライン予測のためにJSONファイルに格納する必要があります。バッチ予測では、イメージのバイトをTFRecords形式のレコードにパックし、tfrecordファイルとして保存する必要があります。それ以外の入力は互換性があります。