quantization

0熱

1答えて

Tensorflowではどのように8ビット演算が行われますか？

This TensorFlowガイドは、ニューラルネットワークの重みと活性化の8ビット表現についていくつかの洞察を与えています。 float32の最小値をint8で0に、最大値を255にマッピングすることで、float32のmin-maxから8bitフォーマットへの範囲をマップします。これは、加算アイデンティティ（0）がゼロ以外の値にマッピングされ、 1）は、int8表現では1以外の値にマップされ

math tensorflow quantization 8bit 2017-10-07

---

1熱

1答えて

イメージからの色抽出、定量および分析R

私はquantifying colors in an imageとしたいと思います。 私は真珠の真珠光沢（真珠の母）を研究していますが、このシェル（例えば上のリンクの右の写真）の3色（赤、黄色、緑色）を定量化したいと思います。だから、 Iridescence of nacre 、私はいくつかのパッケージ（imager、ImageMagick、EBImageを...）テストだったが、私は本当に私を助

r image colors analysis quantization 2017-02-07

---

2熱

1答えて

Matlab画像の量子化が機能しない

量子化を実行するためにグレイスケール画像をMatlabにロードしました。残念ながら、出力は何もありません。 I = imread('asa.jpg'); imshow(I) axis off title('Grayscale Image') thresh = multithresh(I,7); valuesMax = [thresh max(I(:))] [quant8_I_max,

matlab image-processing quantization 2017-02-09

---

1熱

4答えて

この式は何を意味しますか？

The formula in the image is depicting quantization 私は上記の公式で何が起こっているのか誰にでも分かりますか？最初にx = [c/s1]を実行してから、s1 * xを実行するはずですか？ ご理解ください。 The paper in question。

python numpy image-processing jpeg quantization 2017-08-31

---

1熱

1答えて

Tensorflowグラフ変換ツールquantize_nodesは、存在しない "hat"ノード名を参照していますか？

私は見てのためにtensorboardにアップロードするために.pbグラフをダンプするために、この単純なスクリプトを使用している ： import sys import os import os.path import tensorflow as tf from tensorflow.python.platform import gfile model_filename = sys.a

tensorflow quantization 2017-12-11

---

0熱

1答えて

matlabでsobel mask演算子を使用してグラデーションを見つける

次のコードを使用して、ソベルマスクを使用して画像をマスクします。 for i=1:size(C,1)-2 for j=1:size(C,2)-2 %Sobel mask for x-direction: Gx=((2*C(i+2,j+1)+C(i+2,j)+C(i+2,j+2))-(2*C(i,j+1)+C(i,j)+C(i,j+2))); %Sobe

matlab gradient quantization handwriting-recognition sobel 2017-02-25

---

2熱

2答えて

グレースケール画像を量子化する

グレースケールに量子化したいグレースケール画像があります。 より正確には、EBImage packageには、levelsという引数を持つ関数equalize()があります。 levelsの値を256または128または64などに設定して、グレースケール画像を量子化することができます。 （しかし、equalize()関数は与えられたグレースケール画像のヒストグラムイコライゼーションを実行しますが、こ

r image image-processing grayscale quantization 2017-06-06

---

0熱

1答えて

Tensorflow：inception-resnet-v2モデルでは量子化グラフが機能しません

https://www.tensorflow.org/performance/quantization#how_can_you_quantize_your_modelsを使用して、inception-resnet-v2モデルで量子化を行いました。 フリーズグラフ（量子化入力）のサイズは224,6 MB、量子化グラフは58,6 MBです。私は一定のデータセットについて精度テストを実行した。フリーズグ

tensorflow conv-neural-network quantization resnet 2017-06-08

---

0熱

1答えて

TensorFlow Liteモデルを16ビットに量子化する方法

次のコードスニペットでは、8ビット量子化TF Liteモデルを作成し、QUANTIZED_UINT8をFLOATに置き換えると、32ビットモデルが作成されます。 16ビット量子化モデルを作成するフラグはありますか？私はTF Liteのドキュメントを検索しましたが、可能なフラグのリストのドキュメントが見つかりませんでした。誰もこれを行う方法を知っていますか？ ~/tensorflow/bazel-b

tensorflow neural-network quantization tensorflow-lite 2017-12-28

---

0熱

1答えて

MP3量子化プロセス中にデータが失われる

MP3エンコード処理中に、データが量子化される前に、ウィンドウングおよびMDCT関数を通過します。私はそのデータの量子化が失われることを意味するのだろうかと疑問に思っています。 MP3 Encoding

algorithm encoding mp3 coefficients quantization 2017-04-24

---