TensorFlowサービングまたはクラウドMLエンジンで使用するために、グラフプロト（pb/pbtxt）をSavedModelに変換します

Question

私は訓練したモデルでTensorFlow for Poets 2コードラブに従っていますが、凍結した量子化グラフを埋め込み重量。 1つのファイル（例えば、my_quant_graph.pb）に取り込まれます。

TensorFlow Android inference libraryの推論でこのグラフを使用することができますので、私はCloud ML Engineでも同じことができると思っていましたが、SavedModelモデルでのみ動作するようです。

MLエンジンで使用するために、単一のpbファイル内の固定/量子化されたグラフを単純に変換する方法はありますか？

Answer 1

SavedModelは、保存されたグラフの周りにいくつかの追加情報を提供することが判明しました。フリーズしたグラフにアセットが必要でないと仮定すると、指定されたサービングシグネチャのみが必要です。

グラフをCloudMLエンジンが受け入れた形式に変換するために実行したPythonコードです。注記私は1組の入出力テンソルしか持たない。

import tensorflow as tf 
from tensorflow.python.saved_model import signature_constants 
from tensorflow.python.saved_model import tag_constants 

export_dir = './saved' 
graph_pb = 'my_quant_graph.pb' 

builder = tf.saved_model.builder.SavedModelBuilder(export_dir) 

with tf.gfile.GFile(graph_pb, "rb") as f: 
    graph_def = tf.GraphDef() 
    graph_def.ParseFromString(f.read()) 

sigs = {} 

with tf.Session(graph=tf.Graph()) as sess: 
    # name="" is important to ensure we don't get spurious prefixing 
    tf.import_graph_def(graph_def, name="") 
    g = tf.get_default_graph() 
    inp = g.get_tensor_by_name("real_A_and_B_images:0") 
    out = g.get_tensor_by_name("generator/Tanh:0") 

    sigs[signature_constants.DEFAULT_SERVING_SIGNATURE_DEF_KEY] = \ 
     tf.saved_model.signature_def_utils.predict_signature_def(
      {"in": inp}, {"out": out}) 

    builder.add_meta_graph_and_variables(sess, 
             [tag_constants.SERVING], 
             signature_def_map=sigs) 

builder.save()