quantization相关内容

理解 tf.contrib.lite.TFLiteConverter 量化参数

我在将 tensorflow 模型转换为 tflite 模型时尝试使用 UINT8 量化: 如果使用 post_training_quantize = True，模型大小比原始 fp32 模型低 x4，所以我假设模型权重是 uint8，但是当我加载模型并通过 interpreter_aligner 获取输入类型时.get_input_details()[0]['dtype'] 它是 floa ..

发布时间：2021-12-09 22:42:21 python tensorflow deep-learning tensorflow-lite quantization Python

如何量化表面法线

我正在尝试将表面法线量化为 8 个 bin. 例如，当计算像 HOG 这样的特征来量化 2D 梯度时 [x,y] 分成 8 个区间，我们只取与 y 平面的角度，即 arctan(y/x)，这会给我们一个 0-360 度之间的角度. 我的问题是，给定一个 3D 方向 [x,y,z]，在这种情况下是一个表面法线，我们如何以类似的方式对其进行直方图?我们是否只是投影到一个平面上并使用该角度， ..

发布时间：2021-11-25 03:12:40 math 3d geometry computer-vision quantization C#

如何使用 ColorQuantizerDescriptor?

遵循 @PhiLho 对如何将 BufferedImage 转换为 8 位? 的回答，我想使用 ColorQuantizerDescriptor 转换一个 BufferedImage，imageType TYPE_INT_RGB，但 RenderedOp#getColorModel() 抛出以下异常: java.lang.IllegalArgumentException: 指定的 ColorMo ..

发布时间：2021-11-18 22:37:56 java bmp javax.imageio jai quantization Java开发

使用 TF-lite 将 MobileFacenet 转换为量化感知模型时，create_training_graph() 失败

我正在尝试量化 MobileFacenet (来自 Sirius-ai 的代码)根据 建议我想我遇到了与这个 相同的问题 当我将 tf.contrib.quantize.create_training_graph() 添加到训练图中时 (train_nets.py ln.187: train_op = train(...) 之前或 train() utils/common.py ln.38 ..

发布时间：2021-09-05 20:22:15 tensorflow quantization tensorflow-lite quantization-aware-training 其他开发

Tensorflow 量化 - 无法解析模型:pybind11::init():工厂函数返回 nullptr

我正在研究要部署在嵌入式系统上的 TensorFlow 模型.为此，我需要将模型量化为 int8.该模型由三个不同的模型组成: CNN 作为特征提取器 用于时间预测的 TCN FC/Dense 作为最后一个分类器. 我从这篇文章开始实施了 TCN 有一些修改.本质上，TCN 只是一组一维卷积(带有一些 0-padding)加上一个加法运算. ## 定义 TCN 更新tcn_inp ..

发布时间：2021-09-05 20:08:27 python tensorflow tensorflow-lite quantization Python

tflite 量化推理非常慢

我正在尝试将经过训练的模型从检查点文件转换为 tflite.我正在使用 tf.lite.LiteConverter.浮点转换顺利进行，推理速度合理.但是INT8转换的推理速度很慢.我试图通过输入一个非常小的网络来调试.我发现 INT8 模型的推理速度通常比浮点模型慢. 在 INT8 tflite 文件中，我发现了一些叫做 ReadVariableOp 的张量，在 TensorFlow 的官方 ..

发布时间：2021-09-05 19:39:55 tensorflow quantization tensorflow-lite 其他开发

获得完全量化的 TfLite 模型，也可以在 int8 上输入和输出

我使用 Tensorflow 1.15.3 量化了一个 Keras h5 模型(TF 1.13 ；keras_vggface 模型)，以便与 NPU 一起使用.我用于转换的代码是: converter = tf.lite.TFLiteConverter.from_keras_model_file(saved_model_dir + modelname)Converter.optimization ..

发布时间：2021-09-05 19:36:38 tensorflow tensorflow-lite quantization 其他开发

全量化不排除将int8数据更改为int8的模型输入层

我正在将keras h5模型量化为uint8.要获得完整的uint8量化，用户 dtlam26 在问题是，如果我输入uint8数据，则在调用converter.convert() 时收到以下错误 ValueError:无法设置张量:得到类型为INT8的张量，但预期 输入FLOAT32作为输入178，名称:input_1 看来，该模型仍希望使用float32.因此，我用 检查了基本的 ..

发布时间：2021-02-14 20:58:37 python tensorflow keras quantization tensorflow-lite Python

量化Keras神经网络模型

最近，我开始使用Tensorflow + Keras创建神经网络，我想尝试一下Tensorflow中可用的量化功能.到目前为止，尝试使用TF教程中的示例都很好，并且我有这个基本的示例(来自 https: //www.tensorflow.org/tutorials/keras/basic_classification ): import tensorflow as tf from tenso ..

发布时间：2021-02-14 20:31:15 python tensorflow neural-network keras quantization Python

JPEG文件量化表定义

当我使用Photoshop的“另存为"功能并选择jpeg文件格式时，出现以下窗口: 如您所见，我选择了基线(“标准")格式和最高图片质量.在十六进制编辑器中打开此图片时，我看到几个FF DB标记(这是“量化表"的开始).没问题，但是让我们看下一张图片: 如上图所示，在地址行BDA开始FFDB标记.前两个字节为00 84，这意味着该标记保存132个字节的数据.通过做一些数学运算，我们可以得出结 ..

发布时间：2021-02-12 20:35:39 compression jpeg quantization 其他开发

TensorFlow:量化错误“目标'//tensorflow/tools/graph_transforms:transform_graph分析"失败；构建中止."

我正在对我现有的初始模型图进行量化，以尝试将其大小从〜89mb减小到30mb左右，这根据Google教程 代码段我尝试复制并运行: bazel build tensorflow/tools/graph_transforms:transform_graph bazel-bin/tensorflow/tools/graph_transforms/transform_graph \ --in ..

发布时间：2020-07-05 03:22:31 python tensorflow bazel quantization Python

如何修复"TOCO失败".检查失败:dim> = 1 =(0 vs. 1)"将冻结的图转换为tensorflow_lite模型时出错

我已经训练了对象检测模型.现在，我正尝试使用 Tensorflow Lite图形转换器.但是当我呼叫tf.lite.TFLiteConverter.from_frozen_graph 方法，我遇到了错误. 我还找到了这就是我要说的: converter = tf.lite.TFLiteConverter.from_frozen_graph( model_path, in ..

发布时间：2020-07-05 03:22:27 python tensorflow tensorflow-lite quantization Python

“量化"在解释器.get_input_details()中是什么意思?

使用tflite并获取解释器的属性，例如: print(interpreter.get_input_details()) [{'name': 'input_1_1', 'index': 47, 'shape': array([ 1, 128, 128, 3], dtype=int32), 'dtype': , 'quantization': ..

发布时间：2020-07-05 03:21:24 python tensorflow tensorflow-lite quantization Python

如何使用python将浮点数转换为具有预定义位数的固定点

我有numpy格式的浮点数32个数字(比方说正数).我想将它们转换为具有预定义位数的定点数，以降低精度. 例如，使用函数num2fixpt，数字3.1415926在matlab中变为3.25. 该命令是num2fixpt(3.1415926，sfix(5)，2 ^(1 + 2-5)，'Nearest'，'on')，它表示整数部分为3位，小数部分为2位. 我可以使用Python做同样的事 ..

发布时间：2020-07-05 03:21:19 python fixed-point quantization Python

Tensorflow构建量化工具-Bazel构建错误

我正在尝试按照bazel build tensorflow/contrib/quantization/tools:quantize_graph ERROR: no such package 'tensorflow/contrib/quantization/tools': BUILD file not found on package path. INFO: Elapsed time: 0.277s ..

发布时间：2020-07-05 03:21:18 tensorflow deep-learning bazel quantization 其他开发

通过截断减少采样位深度

我必须将数字音频信号的位深度从24位降低到16位. 每个样本仅取16个最高有效位(即截断)等同于进行比例计算(out = in * 0xFFFF/0xFFFFFF)? 解决方案 我假设您的意思是(in * 0xFFFF) / 0xFFFFFF，在这种情况下，是的. ..

发布时间：2020-07-05 03:21:14 audio 16-bit 24-bit quantization 其他开发

量化(减少图像色彩)

我正在尝试使用C#将图像量化为10种颜色，并且在绘制量化图像时遇到问题，我制作了映射表，并且它是正确的，我已经制作了原始图像的副本，并且正在更改基于映射表的像素颜色，我正在使用以下代码: bm = new Bitmap(pictureBox1.Image); Dictionary histo = new Dictionary() ..

发布时间：2020-07-05 03:21:07 c# quantization C#/.NET

Mobilenet V1的训练后量化不起作用

我正在尝试将mobilenet V1 .pb文件转换为量化的tflite文件.我使用以下命令进行量化: tflite_convert \ --output_file=/home/wc/users/Mostafiz/TPU/models/mobilnet/test2_4thSep/mobilenetv1_test5.tflite \ --graph_def_file=/home/w ..

发布时间：2020-07-05 03:20:05 tensorflow quantization uint8t 其他开发

安装带有量化支持的Tensorflow

这是我另一个问题的跟进: Tensorflow中8位量化出现错误 基本上，我想安装具有8位量化支持的Tensorflow.目前，我在CentOS 7机器上(没有GPU支持)以pip安装方法安装了Tensorflow 0.9. 我可以编译和运行Pete Warden博客文章中给出的代码.但是，我无法导入Pete Warden的回复中给出的功能.我想添加量化支持.我也没有在Tensorfl ..

发布时间：2020-07-05 03:19:00 python tensorflow quantization tensorboard Python

了解tf.contrib.lite.TFLiteConverter量化参数

我试图在将张量流模型转换为tflite模型时使用UINT8量化: 如果使用post_training_quantize = True，则模型大小比原始fp32模型小x4，因此我假设模型权重为uint8，但是当我加载模型并通过interpreter_aligner.get_input_details()[0]['dtype']获取输入类型时，它是float32.量化模型的输出与原始模型大致相同 ..

发布时间：2020-07-05 03:18:57 python tensorflow deep-learning tensorflow-lite quantization Python