tensorflow2.0相关内容

为什么我的样式转换模型在3700/20000批处理后突然停止学习?

续前:我正在复制如下图所示的感知样式转换模型: 我终于对COCO2014数据集中的1000张图像进行了模型学习.但是后来我尝试运行整个数据集的2个时期,每个时期20695个批次(根据研究论文).它开始很快学习,但是经过大约3700个步骤后,它神秘地失败了. (每100批次保存1张生成的图像,最新的保存在左侧) 我对保存的检查点所做的预测显示了相似的结果: 看起来像是在故障点附近的损失, ..

如何根据当前纪元或纪元步骤编写某些层的逻辑?

Keras的文档在此处中介绍了如何编写自定义层,方法是从Layer类继承.现在,我有另一个自定义图层CustomLayer,我想从中继承该图层.我们将其称为新的自定义图层CustomLayer2.我猜想,即使我不是从Layer继承而是从CustomLayer继承,继承过程也将与链接文档中描述的相同,但是我还将继承CustomLayer的自定义功能. 无论如何,在这个自定义层CustomLay ..
发布时间:2020-04-25 10:59:11 其他开发

如何在具有tensorflow2和keras的多GPU上训练模型?

我有一个要在多个GPU上训练的LSTM模型.我将代码转换为执行此操作,在nvidia-smi中,我可以看到它正在使用所有GPU的所有内存,并且每个GPU都使用了大约40%的BUT,估计每批训练的时间几乎与1 gpu. 有人可以引导我并告诉我如何在多个GPU上正确训练吗? 我的代码: import tensorflow as tf from tensorflow.keras.mo ..
发布时间:2020-04-25 10:52:57 其他开发

在Tensorflow 2.0中实现自定义损失功能

我正在建立时间序列分类模型.数据非常不平衡,所以我决定使用加权交叉熵函数作为损失. Tensorflow提供 tf.nn.weighted_cross_entropy_with_logits ,但我不确定如何在TF 2.0中使用它.因为我的模型是使用tf.keras API构建的,所以我正在考虑创建这样的自定义损失函数: pos_weight=10 def weighted_cross ..
发布时间:2020-04-25 10:45:51 其他开发

使用Keras Tensorflow 2.0获取渐变

我想在张量板上跟踪渐变. 但是,由于会话运行语句不再重要,并且 tf.keras.callbacks.TensorBoard 的 write_grads 参数已已被描述,因此我想了解在使用 Keras 或 tensorflow 2.0 进行训练时如何跟踪渐变. 我当前的方法是为此目的创建一个新的回调类,但是没有成功.也许其他人知道如何完成这种高级工作. 为测试而创建的代码如下所示,但是 ..
发布时间:2020-04-25 10:23:46 Python

Keras的预测时间不一致

我试图估计我的keras模型的预测时间,并意识到一些奇怪的事情.除了正常情况下速度较快外,模型偶尔还需要很长时间才能得出预测.不仅如此,这些时间还增加了模型运行的时间.我添加了一个最小的工作示例来重现该错误. import time import numpy as np from sklearn.datasets import make_classification from tensorf ..
发布时间:2020-04-25 10:16:07 Python

Tensorflow 2.0 Keras的训练速度比2.0 Estimator慢4倍

我们最近将TF 2.0转换为Keras,但是当将其与2.0上的DNNClassifier Estimator进行比较时,我们使用Keras的速度慢了大约4倍.但是我无法为自己的生活弄清楚为什么会这样.两者的其余代码都相同,使用一个input_fn()返回相同的tf.data.Dataset,并使用相同的feature_columns.数天以来一直在为这个问题而苦苦挣扎.任何帮助将不胜感激.谢谢 ..
发布时间:2020-04-25 10:12:51 Python

使用tf.function的Tensorflow 2.0模型非常慢,并且每次火车数量变化时都会重新编译.渴望的速度快大约4倍

我有使用未编译的keras代码构建的模型,并试图通过自定义训练循环运行它们. TF 2.0急切(默认)代码在CPU(笔记本电脑)上运行大约30秒.当我使用包装的tf.function调用方法创建一个keras模型时,它的运行速度大大降低,并且似乎需要很长时间才能启动,尤其是“第一次"启动. 例如,在tf.function代码中,对10个样本的初始训练需要40s,而对10个样本的后续训练 ..
发布时间:2020-04-25 10:08:24 其他开发