JavaのExampleオブジェクトからTensorを作成するにはどうすればよいですか？

Question

私の使用例： 私は、libtensorflow_jniを使用して既存のJVMサービス内でPythonによって訓練されたモデルを提供しようとしています。

SavedModelBundle.load()を使用してモデルを読み込むことができました。しかし、私はその要求をモデルに与えるのが難しいと感じています。私のユーザーの要求は、単にスカラー行列が、のような機能のマップ、ないので：テンソルフローのチュートリアルを中心に検索することにより

{'gender':1, 'age': 20, 'country': 100, other features ...} 

、私はそれが基本的にのリストを保持しているようExampleプロトコルバッファはここにフィットすることを確認します特徴。しかし、私はそれをJava Tensorオブジェクトに変換する方法がわかりません。

シリアル化されたExampleオブジェクトで直接Tensorを作成した場合、TensorFlowランタイムはデータ型に満足していないようです。例えば、私は、

Tensor inputTensor = Tensor.create(example.toByteArray()); 
s.runner().feed(inputTensorName, inputTensor).fetch(outputTensorName).run().get(0); 

を次の手順を実行して、私はIllegalArgumentExceptionを取得します：

java.lang.IllegalArgumentException: Expected serialized to be a vector, got shape: [] 

あなたたちは、あなたが知っているか、同じ持って起こる場合には、私はここから前方に移動することができますどのようにいくつかの光を当てるでしたユースケース？

ありがとうございます！

Answer 1

エラーメッセージを見ると、モデルでは文字列テンソルのベクトル（おそらくtf.parse_exampleからExampleというプロトコルバッファメッセージのシリアル化されたバッチに相当する）が予想されていますが、スカラー弦テンソル。

残念ながら、issue #8531が解決されるまで、Java APIにはスカラー以外の文字列のTensorを作成する方法はありません。その問題が解決すれば、より簡単になります。

TensorFlowの "モデル"を構築​​してスカラー文字列をサイズ1のベクトルに変換することで、この問題を回避できます。すなわち、このような何かを行うことができる：上記で

// A TensorFlow "model" that reshapes a string scalar into a vector. 
// Should be much prettier once https://github.com/tensorflow/tensorflow/issues/7149 
// is resolved. 
private static class Reshaper implements AutoCloseable { 
    Reshaper() { 
    this.graph = new Graph(); 
    this.session = new Session(graph); 
    this.in = 
     this.graph.opBuilder("Placeholder", "in") 
      .setAttr("dtype", DataType.STRING) 
      .build() 
      .output(0); 
    try (Tensor shape = Tensor.create(new int[] {1})) { 
     Output vectorShape = 
      this.graph.opBuilder("Const", "vector_shape") 
       .setAttr("dtype", shape.dataType()) 
       .setAttr("value", shape) 
       .build() 
       .output(0); 
     this.out = 
      this.graph.opBuilder("Reshape", "out").addInput(in).addInput(vectorShape).build().output(0); 
    } 
    } 

    @Override 
    public void close() { 
    this.session.close(); 
    this.graph.close(); 
    } 

    public Tensor vector(Tensor input) { 
    return this.session.runner().feed(this.in, input).fetch(this.out).run().get(0); 
    } 

    private final Graph graph; 
    private final Session session; 
    private final Output in; 
    private final Output out; 
} 

、あなたはベクトルにあなたの例のプロトテンソルを変換し、あなたがこのような何かを持つことに興味がモデルにそれを養うことができます。

Tensor inputTensor = null; 
try (Tensor scalar = Tensor.create(example.toByteArray())) { 
    inputTensor = reshaper.vector(scalar); 
} 
s.runner().feed(inputTensorName, inputTensor).fetch(outputTensorName).run().get(0); 

詳細については、see this example on github

希望に応じて！