transfer-learning - IT屋-程序员软件开发技术分享社区

PyTorch 中的标签平滑

我正在使用迁移学习为 Stanford Cars 数据集构建 ResNet-18 分类模型.我想实施标签平滑来惩罚过度自信的预测并提高泛化能力. TensorFlow 在交叉熵损失.有没有人为 PyTorch 构建了一个类似的功能，我可以即插即用? 解决方案使用软目标通常可以显着提高多类神经网络的泛化和学习速度.硬目标和标签上的均匀分布的>加权平均.以这种方式平滑标签可防止网络变 ..

发布时间：2022-01-06 19:33:13 python machine-learning pytorch transfer-learning AI人工智能

添加的图层必须是类图层的实例.发现:<tensorflow.python.keras.engine.input_layer.InputLayer>

我是机器学习的新手.我正在关注有关微调 VGG16 模型的教程.> 模型加载良好，代码如下: vgg_model = tensorflow.keras.applications.vgg16.VGG16() 但得到这个错误: TypeError: 添加的图层必须是类图层的实例.发现: ..

发布时间：2021-12-19 12:58:31 python tensorflow keras transfer-learning vgg-net Python

我正在尝试在 Keras 中创建一个模型，以根据图片进行数值预测.我的模型有 densenet121 卷积基础，顶部有几个附加层.除了最后两个层之外的所有层都设置为 layer.trainable = False.我的损失是均方误差，因为它是一个回归任务.在训练期间我得到 loss: ~3，而对同一批数据的评估得到 loss: ~30: model.fit(x=dat[0],y=dat[1],b ..

发布时间：2021-12-09 22:28:48 python tensorflow keras deep-learning transfer-learning Python

PyTorch中的标签平滑

我正在使用迁移学习为 Stanford Cars 数据集构建 ResNet-18 分类模型.我想实现标签平滑，以惩罚过度自信的预测并提高概括性. TensorFlow 在 CrossEntropyLoss .有没有人为我可以即插即用的 PyTorch 构建类似的功能? 解决方案通过使用标签上的硬目标的>加权平均值和均匀分布.以这种方式对标签进行平滑处理可以防止网络变得过于自信，并 ..

发布时间：2021-05-31 18:34:34 python machine-learning pytorch transfer-learning AI人工智能

如何解决“无算法工作"?Keras错误?

我试图在Keras开发FCN-16模型.我用类似的FCN-16模型权重初始化了权重. def FCN8(nClasses，input_height = 256，input_width = 256):## input_height和width必须为32可见，因为使用filter size =(2,2)的maxpooling操作了5次，##使input_height和width 2 ^ 5 = 3 ..

发布时间：2021-05-28 19:11:26 tensorflow keras deep-learning computer-vision transfer-learning 其他开发

转移学习的准确性差

我的任务是根据缺陷对种子进行分类.我在7个班级中有大约14k图像(它们的大小不相等，有些班级的照片更多，有些班级的照片更少).我尝试从头开始训练Inception V3，我的准确率大约为90％.然后，我尝试使用带有ImageNet权重的预训练模型进行迁移学习.我从 applications 导入了 inception_v3 ，但没有顶层fc层，然后像在文档中一样添加了自己的代码.我以以下代码结束: ..

发布时间：2021-05-28 19:09:48 python tensorflow machine-learning keras transfer-learning AI人工智能

如何在我们自己的模型上进行转移学习?

我正在尝试在CNN模型上应用转移学习，但出现以下错误. model = model1(权重="model1_weights"，include_top = False) - TypeError:__call __()恰好接受2个参数(给定1个) 谢谢解决方案如果您尝试通过自定义模型使用转移学习，答案取决于保存模型体系结构(描述)和权重的方式. 1.如果您将模型的描述 ..

发布时间：2021-04-22 20:08:20 python-3.x keras conv-neural-network transfer-learning 其他开发

转移学习以进行视频分类

如何使用预先训练的模型来训练视频分类模型?我的数据集形状为(4000,10,150,150,1)，我尝试使用Conv2D TimeDistributed对人类动作识别进行分类. 我可以在不进行转学的情况下进行培训，但是准确性较差. 我尝试过的: from keras.applications import VGG16 conv_base = VGG16(weights='imagenet', ..

发布时间：2021-02-14 21:01:28 tensorflow keras transfer-learning pre-trained-model activity-recognition 其他开发

转移学习:模型给出不变的损失结果.是不是在训练?

我正在尝试在Inception V3上训练回归模型.输入的是大小为(96,320,3)的图像.总共有16k +张图像，其中12k +张用于训练，其余的用于验证.我已经冻结了Inception中的所有层，但是解冻它们都没有帮助(已经尝试过).我已经将预训练模型的顶部替换为下面的代码所示的几层. X_train = preprocess_input(X_train) inception = In ..

发布时间：2021-02-14 20:47:08 python tensorflow keras deep-learning transfer-learning Python

从非最终Keras模型层获取输出

我在tensorflow上将python 3和keras用于ubuntu，我正尝试使用从预先训练的keras模型中进行转移学习来创建模型，如我正在使用以下代码 import numpy as np from keras.applications import vgg16, inception_v3, resnet50, mobilenet from keras import Model a ..

发布时间：2021-02-14 20:33:26 python tensorflow keras deep-learning transfer-learning Python

如何从tfrecord解码vggish音频集嵌入？

我正在尝试使用 VGGish 模型用于音频数据的传输学习。使用 python vggish_inference_demo.py --wav_file ... 将训练数据编码为tfrecord效果很好，但是现在我想将其用作其他模型的输入（例如我用keras或其他东西创建的神经网络）。使用一些类似的问题和文档，我用一个文件的第一个嵌入记录走了这么远： tfrecords_filename =' ..

发布时间：2020-10-29 03:53:48 python-3.x tensorflow embedding tfrecord transfer-learning 其他开发

在小型自定义语料库上预训练语言模型

我很好奇是否可以在文本生成中使用转移学习，然后对特定类型的文本进行重新训练/预训练。例如，拥有一个经过预先训练的BERT模型和一小撮医学（或任何“类型”）文本的语料库，就可以创建一种能够产生医学信息的语言模型文本。假定您没有大量的“医学文本”，这就是为什么您必须使用迁移学习。将其作为管道，我会将其描述为：使用预训练的BERT令牌生成器。从我的新文本中获取新令牌，并将其添 ..

发布时间：2020-10-19 22:42:53 deep-learning transfer-learning huggingface-transformers language-model bert-language-model 其他开发

转移学习-Val_loss异常行为

我正在尝试从phyton中的keras.application对MobileNetV2使用转移学习。我的图像属于4类，第一，第二，第三和最后一类的数量分别为8000、7000、8000和8000张图像。我的图像是灰度的，并从1024x1024调整为128x128。我从MobileNetV2中删除了分类密集层，并添加了自己的密集层： global_average_pooling2 ..

发布时间：2020-10-09 02:57:18 machine-learning deep-learning conv-neural-network image-recognition transfer-learning AI人工智能

在Keras中保存模型的正确方法

我一直在尝试在研究中实施转移学习。我决定使用 keras.applications 中提供的VGG16。我按以下方式加载模型并冻结其权重： vgg16 = VGG16（权重='imagenet'，include_top = False，input_shape = {img_rows，img_cols，3），池化=无）vb16.layers中的层的： layer.trainabl ..

发布时间：2020-10-09 02:56:46 python tensorflow keras conv-neural-network transfer-learning Python

KerasLayer vs tf.keras.applications的性能

我已经使用ResNetV2 50训练了一些网络（ https://tfhub.dev / google / imagenet / resnet_v2_50 / feature_vector / 4 ），它对我的数据集非常有效。然后我尝试了 tf。 keras.applications.ResNet50 ，准确度远低于其他。这里有两个模型：第一个（带集线器） ba ..

发布时间：2020-10-09 02:55:23 tensorflow keras conv-neural-network tf.keras transfer-learning 其他开发

如何将重新训练的模型转换为tflite格式?

我已经在MobileNet上训练了图像分类器模型，我有这些文件. 此外，我使用了toco压缩重新训练的模型，以将模型转换为.lite格式，但是我需要使用.tflite格式.无论如何，我可以从现有文件中获取tflite格式吗? 解决方案这是一个简单的python脚本，可用于将.pb格式的图形转换为tflite. import tensorflow as tf graph_def_f ..

发布时间：2020-07-03 22:44:35 tensorflow tensorflow-lite pre-trained-model transfer-learning 其他开发

以YOLO为例进行微调和转移学习

我有一个关于微调和转移学习的一般性问题，当我试图弄清楚如何最好地让yolo来检测我的自定义对象(手)时出现了这个问题. 我很抱歉可能包含很多错误信息的长文本.如果有人有耐心地阅读它并帮助我消除混乱，我将感到非常高兴. 经过大量的搜索之后，我了解到许多人认为微调是迁移学习的一个子类，而其他人则认为他们在采用不同的方法来训练模型.同时，人们在重新训练自定义数据集上的模型的最后一个分类器层与 ..

发布时间：2020-05-04 09:51:19 machine-learning object-detection yolo transfer-learning finetunning AI人工智能

数据增强损害准确性Keras

我正在尝试使用Python进行深度学习第5.3节“使用数据增强功能提取特征" 来解决带有resnet50(图像网络权重)的3类问题. 完整代码位于 https://github.com/morenoh149/plantdisease from keras import models from keras import layers from keras.applications.re ..

发布时间：2020-04-25 11:02:50 keras deep-learning transfer-learning data-augmentation 其他开发

进行迁移学习时，如何在vgg16内添加customm层?

我正在尝试通过vgg16使用转移学习.我的主要概念是训练vgg16的前几层，并添加我自己的层，后言添加vgg16中的其余层，并在末尾添加我自己的输出层.为此，我遵循以下顺序:(1)加载图层和freez图层，(2)添加我的图层，(3)加载其余的图层(输出图层除外)[这是我遇到以下错误的地方]和freez该层，(4)添加输出层.我的方法可以吗?如果没有，那么我在哪里做错了?这是错误: Value ..

发布时间：2020-04-25 11:01:13 tensorflow keras deep-learning transfer-learning vgg-net 其他开发

将keras.applications.resnet50转换为Sequential会产生错误

我想将预先训练的ResNet50模型从keras.application转换为顺序模型，但是会出现input_shape错误. 输入0与图层res2a_branch1不兼容:输入形状的预期轴-1的值为64，但形状为(无，25、25、256) 我阅读了此 https://github.com/keras-team/keras/Issues/9721 ，据我了解，错误的原因是skip_co ..

发布时间：2020-04-25 10:57:09 keras deep-learning resnet transfer-learning 其他开发

transfer-learning相关内容