rnn相关内容

在LSTM中，INPUT_Shape和Batch_Input_Shape有什么不同

这只是设置相同内容的不同方式，还是它们实际上有不同的含义？这与网络配置有关吗？ 在一个简单的示例中，我看不到以下各项之间的任何区别： model = Sequential() model.add(LSTM(1, batch_input_shape=(None,5,1), return_sequences=True)) model.add(LSTM(1, return_sequences ..

发布时间：2022-03-23 20:29:00 machine-learning deep-learning keras lstm rnn AI人工智能

PyTorch:传递 numpy 数组进行权重初始化

我想用np数组初始化RNN的参数. 在下面的示例中，我想将 w 传递给 rnn 的参数.我知道pytorch提供了很多初始化方法，比如Xavier、uniform等，但是有没有办法通过传递numpy数组来初始化参数呢? 将 numpy 导入为 np将火炬导入为 nnrng = np.random.RandomState(313)w = rng.randn(input_size, hidde ..

发布时间：2022-01-19 00:04:15 python numpy initialization pytorch rnn Python

我们如何分析损失与纪元图?

我正在训练一个语言模型，每次训练时都会绘制损失与时期的关系图.我附上了两个样本. 显然，第二个表现更好.但是，从这些图中，我们什么时候决定停止训练(提前停止)? 我们能否从这些图中理解过度拟合和欠拟合，或者我是否需要绘制额外的学习曲线? 从这些图中可以做出哪些额外的推论? 解决方案 第一个结论显然第一个模型的性能比第二个差，这通常是正确的，只要你使用相同的数据验证.如果您 ..

发布时间：2022-01-06 19:41:03 machine-learning nlp lstm pytorch rnn AI人工智能

PyTorch:传递 numpy 数组以进行权重初始化

我想用 np 数组初始化 RNN 的参数. 在下面的例子中，我想将w传递给rnn的参数.我知道pytorch提供了很多初始化方法，比如Xavier、uniform等，但是有没有办法通过传递numpy数组来初始化参数? 将 numpy 导入为 np将火炬导入为 nnrng = np.random.RandomState(313)w = rng.randn(input_size, hidden ..

发布时间：2022-01-06 19:09:28 python numpy initialization pytorch rnn Python

理解一个简单的 LSTM pytorch

导入torch,ipdb将 torch.autograd 导入为 autograd将 torch.nn 导入为 nn导入 torch.nn.functional 作为 F导入 torch.optim 作为 optim从 torch.autograd 导入变量rnn = nn.LSTM(input_size=10, hidden_​​size=20, num_layers=2)输入 = 变量(tor ..

发布时间：2021-12-31 16:50:47 neural-network lstm pytorch rnn 其他开发

获取 ValueError :“只能使用 MultiIndex 进行元组索引"；

我正在尝试实现一个简单的 RNN 来预测整数序列中的下一个整数.所以，我有一个如下的数据集: Id 序列1 1,0,0,2,24,552,21280,103760,70299264,5792853248,5871599447042 1,1,5,11,35,93,269,747,2115,5933,16717,47003,132291,372157,1047181,2946251,8289731, ..

发布时间：2021-12-27 17:30:22 python deep-learning keras rnn Python

Keras 报告 TypeError: 不支持的操作数类型 +: 'NoneType' 和 'int'

我是 Keras 的初学者，只是编写了一个玩具示例.它报告 TypeError.代码和错误如下: 代码: inputs = keras.Input(shape=(3, ))单元格 = keras.layers.SimpleRNNCell(units=5, activation='softmax')标签 = keras.layers.RNN(cell)(inputs)模型 = keras.m ..

发布时间：2021-12-19 13:09:00 python tensorflow machine-learning keras rnn AI人工智能

使用 LSTM(python) 在时间序列中进行模式识别

我的应用场景和上一个类似时间序列中的模式识别 通过处理时间序列数据集，我想检测与此类似的模式:以样本时间序列为例，我希望能够检测此处标记的模式: 但我想用 python 和 LSTM 来做这件事. 我已经阅读了一些关于 RNN 时间序列和词分类的资源.我知道 RNN 如何预测时间序列中的结果，但我很困惑如何在时间序列中找到模式. 我在网上找了很久.但是没有用.请帮助或尝试提 ..

发布时间：2021-09-07 20:36:00 python machine-learning time-series pattern-recognition rnn AI人工智能

GRU 相同的配置但以两种不同的方式在 tensorflow 中产生两种不同的输出

我想使用 GRU 在 tensorflow 中做一些序列预测.所以我用两种不同的方式创建了相同的模型，如下所示: 在模型 1 中，我有 2 个 GRU，一个接一个，即 new_state1，第一个 GRU 的最终隐藏状态，作为第二个 GRU 的初始状态.因此，模型依次输出 new_state1 和 new_state2.请注意，这不是 2 层模型，而是只有 1 层.从下面的代码中，我将输入和 ..

发布时间：2021-07-05 18:59:57 python tensorflow rnn Python

如何在 lstm 中使用卷积 1D?

我有时间序列数据输入 72 个值，通过单独的最后 6 个值进行测试预测.我想在 LSTM 中使用 CONV1D. 这是我的代码. df = pd.read_csv('D://data.csv',引擎='蟒蛇')df['DATE_'] = pd.to_datetime(df['DATE_']) + MonthEnd(1)df = df.set_index('日期_')df.head()spl ..

发布时间：2021-07-05 18:59:47 tensorflow keras lstm rnn convolutional-neural-network 其他开发

PyTorch:DecoderRNN:RuntimeError:输入必须有 3 维，得到 2

我正在使用 PyTorch 构建一个 DecoderRNN(这是一个图像字幕解码器): class DecoderRNN(nn.Module):def __init__(self, embed_size, hidden_​​size, vocab_size):super(DecoderRNN, self).__init__()self.hidden_​​size = hidden_​​sizes ..

发布时间：2021-07-05 18:59:40 python-3.x pytorch rnn encoder-decoder 其他开发

如何在 Tensorflow RNN 中构建嵌入层?

我正在构建一个 RNN LSTM 网络，以根据作者的年龄(二元分类 - 年轻/成人)对文本进行分类. 似乎网络没有学习，突然开始过度拟合: 红色:火车 蓝色:验证 一种可能是数据表示不够好.我只是按照它们的频率对独特的词进行排序并给它们索引.例如: 未知 ->0->1->2.->3到->4 所以我试图用词嵌入替换它.我看到了几个例子，但我无法在我的代码中实现它.大多数示例如 ..

发布时间：2021-07-05 18:59:34 python tensorflow rnn word-embedding Python

BasicRNNCell 中的内部变量

我有以下示例代码来测试 BasicRNNCell.我想得到它的内部矩阵，以便我可以使用我自己的代码计算 output_res、newstate_res 的值，以确保我可以重现 output_res、newstate_res. 在 tensorflow 源代码中，它说 output = new_state = act(W * input + U * state + B).有人知道我如何获得 W ..

发布时间：2021-07-05 18:59:25 python tensorflow rnn Python

Python 在 GCP 上被杀死

我一直致力于比较以在本地机器和 Google Cloud Platform 上运行深度学习代码.代码是关于循环神经网络的，它在本地机器上运行得非常好.但是在GCP cloud shell上，当我想编译我的python文件时，它显示“Killed" userID@projectID:~$ python rnn.py 被杀 是不是因为我内存不足?(因为我尝试逐行运行，第二次将大数据分 ..

发布时间：2021-07-05 18:59:13 python google-cloud-platform rnn Python

Tensorflow RNN-LSTM - 重置隐藏状态

我正在构建一个用于语言识别的有状态 LSTM.作为有状态的，我可以用较小的文件训练网络，一个新的批次就像讨论中的下一句话.但是，为了使网络得到正确训练，我需要在某些批次之间重置 LSTM 的隐藏状态. 我正在使用一个变量来存储 LSTM 的 hidden_​​state 以提高性能: 与 tf.variable_scope('Hidden_​​state'):hidden_​​state ..

发布时间：2021-07-05 18:59:10 tensorflow stateful rnn 其他开发

在 R 中使用 RNN (Keras) 进行时间序列预测

我正在关注 Chollet 的深度学习与 R 方法(将 RNN 拟合到时间序列数据) 用于拟合 RNN 进行时间序列预测. model %layer_gru(单位= 32，辍学= 0.1，recurrent_dropout = 0.5,return_sequences = TRUE,input_shape = list(NULL, dim(data)[[-1]])) %>%layer_gru(单 ..

发布时间：2021-07-05 18:59:01 r keras lstm rnn 其他开发

如何使用 tensorflow 的 Dataset API Iterator 作为(循环)神经网络的输入?

当使用 tensorflow 的 Dataset API Iterator 时，我的目标是定义一个 RNN，该 RNN 将迭代器的 get_next() 张量作为其输入(参见 (1) in代码). 然而，简单地将 dynamic_rnn 定义为 get_next() 作为其输入会导致错误:ValueError: Initializer for variable rnn/basic_lstm_ ..

发布时间：2021-07-05 18:58:45 tensorflow rnn tensorflow-datasets 其他开发

Tensorflow 中基于 CuDnnGRU 的 RNN 实现的简单示例

我将以下代码用于标准 GRU 实现: def BiRNN_deep_dynamic_FAST_FULL_autolength(x,batch_size,dropout,hidden_​​dim):seq_len=length_rnn(x)使用 tf.variable_scope('forward'):lstm_cell_fwd =tf.contrib.rnn.GRUCell(hidden_​​d ..

发布时间：2021-07-05 18:58:42 tensorflow rnn 其他开发

Keras GRUCell 缺少 1 个必需的位置参数:'states'

我尝试使用Keras构建3层RNN.部分代码在这里: 模型= Sequential()model.add(嵌入(input_dim = 91，output_dim = 128，input_length = max_length))model.add(GRUCell(单位= self.neurons，辍学= self.dropval，bias_initializer =偏见))model.add( ..

发布时间：2021-05-31 18:41:24 python machine-learning keras rnn gated-recurrent-unit AI人工智能

Tensorflow RNN如何创建具有各种批处理大小的零状态?

在此问题中如何做当state_is_tuple = True?时，我设置了TensorFlow RNN状态: state_placeholder = tf.placeholder(tf.float32，[num_layers，2，batch_size，state_size]) 我认为这需要特定的批次大小，而我现在拥有的是: inputSeq = tf.placeholder(tf.fl ..

发布时间：2021-05-30 21:31:47 python tensorflow lstm rnn Python