AI人工智能

什么是 TensorFlow Estimators 中的“batches"和“steps"?它们与 epochs 有何不同?

我正在尝试使用 TensorFlow 的估算器.在文档中,以下代码用于训练和评估网络.> # 适合nn.fit(x=training_set.data,y=training_set.target,steps=5000)# 评分准确率ev = nn.evaluate(x=test_set.data, y=test_set.target, 步骤=1)loss_score = ev[“损失"]打印(“ ..

用于 Scikit Learn 的 Keras 包装器 - AUC 评分器不起作用

我正在尝试使用 Keras Scikit Learn Wrapper 来随机搜索参数更简单.我在这里写了一个示例代码: 我生成了一个人工数据集: 我正在使用 scikit learn 中的 moons from sklearn.datasets import make_moons数据集 = make_moons(1000) 模型构建器定义: 我定义了需要的build_fn函 ..

随机化神经网络输入顺序的影响

在我的高级算法和数据结构课程中,我的教授要求我们选择我们感兴趣的任何主题.他还告诉我们研究它并尝试在其中实施解决方案.我选择神经网络是因为它是我想学习很长时间的东西. 我已经能够使用神经网络实现 AND、OR 和 XOR,该网络的神经元使用阶跃函数作为激活器.之后,我尝试实现一个反向传播神经网络,该网络学习识别 XOR 算子(使用 sigmoid 函数作为激活器).通过使用 3-3-1 网络 ..

XOR 问题可以用 2x2x1 神经网络无偏差解决吗?

如果没有偏差,具有 2 个输入节点、2 个隐藏节点和一个输出的神经网络是否应该能够解决 XOR 问题?还是会卡住? 解决方案 保留偏差.它不会看到您输入的值. 就一对一的类比而言,我喜欢将偏差视为直线方程中的偏移 c 值:y = mx + c;它为您的系统增加了一个独立的自由度,不受网络输入的影响. ..
发布时间:2021-12-31 17:04:18 AI人工智能

权重初始化

我计划将 Nguyen-Widrow 算法用于具有多个隐藏层的 NN.在研究的过程中,我发现了很多歧义,我想澄清一下. 以下是 Nguyen-Widrow 算法的伪代码 用随机值初始化隐藏层的所有权重对于每个隐藏层{beta = 0.7 * Math.pow(hiddenNeurons, 1.0/输入数);对于每个突触{对于每个权重{通过除以神经元的权重范数和 * 乘以 beta 值来调 ..
发布时间:2021-12-31 17:03:57 AI人工智能

keras 预测错误

我正在尝试使用 keras 神经网络来识别绘制数字的画布图像并输出数字.我已经保存了神经网络并使用 django 来运行 web 界面.但是每当我运行它时,我都会收到内部服务器错误和服务器端代码错误.错误说异常:检查时出错:预期dense_input_1具有形状(无,784)但得到形状为(784,1)的数组.我唯一的主要观点是 from django.shortcuts 导入渲染从 django ..

为什么要识别 XOR 算子的反向传播神经网络需要偏置神经元?

我发布了一个问题 昨天关于我在 XOR 算子的反向传播神经网络中遇到的问题.我做了更多的工作,并意识到这可能与没有偏置神经元有关. 我的问题是,偏置神经元的一般作用是什么,它在识别异或算子的反向传播神经网络中的作用是什么?是否可以创建一个没有偏置神经元的神经元? 解决方案 创建一个没有偏置神经元的神经网络是可能的......它会工作得很好,但有关更多信息,我建议您查看此问题的答案问题 ..

神经网络:连续输出变量的 Sigmoid 激活函数

好的,所以我正在Andrew Ng 在coursera 上的机器学习课程 中想要调整作为作业 4 的一部分完成的神经网络. 特别是,我在作业中正确完成的神经网络如下: Sigmoid 激活函数:g(z) = 1/(1+e^(-z)) 10 个输出单元,每个单元可以取 0 或 1 1 个隐藏层 用于最小化成本函数的反向传播方法 成本函数: 其中L=层数,s_l=层l的单元数 ..
发布时间:2021-12-31 17:02:36 AI人工智能

tf.py_func 如何传递梯度

这是张量流中更快的 R-CNN 实现. proposal_layer 是 实现 python 我很好奇梯度是否可以通过tf.py_func 权重和偏差不断变化 所以我认为梯度返回成功 那我做个小测试 将 tensorflow 导入为 tf将 numpy 导入为 np定义插件(x):# 打印类型(x)返回 x + 1def pyfunc_test():# 创建数据x_data ..
发布时间:2021-12-31 17:01:11 AI人工智能

如何在 TensorFlow 的 MNIST 示例中获得预测的类标签?

我是神经网络的新手,并为初学者学习了 MNIST 示例. 我目前正在尝试在另一个没有测试标签的 Kaggle 数据集上使用这个例子. 如果我在没有相应标签的测试数据集上运行模型,因此无法像 MNIST 示例中那样计算准确度,我希望能够看到预测.是否有可能以某种方式访问​​观察结果及其预测标签并将其打印出来? 解决方案 我认为你只需要按照教程中的说明评估你的输出张量: accu ..

张量流中的非全连接层

我想创建一个网络,其中输入层中的节点仅连接到下一层中的某些节点.这是一个小例子: 到目前为止,我的解决方案是将 i1 和 h1 之间的边的权重设置为零,并且在每个优化步骤之后,我将权重与矩阵相乘(I称这个矩阵掩码矩阵),其中除了i1和h1之间边的权重的条目外,每个条目都是1.(见下方代码) 这种方法对吗?或者这对 GradientDescent 有影响吗?是否有另一种方法可以在 Ten ..

感知器中的阈值有什么意义?

我无法看到阈值在单层感知器中的实际作用.无论阈值是多少,数据通常都是分开的.似乎较低的阈值可以更平等地划分数据;这是它的用途吗? 解决方案 实际上,您只需在不使用偏差时设置阈值即可.否则,阈值为 0. 请记住,单个神经元用超平面划分您的输入空间.好吗? 现在想象一个有 2 个输入 X=[x1, x2]、2 个权重 W=[w1, w2] 和阈值 TH 的神经元>.该等式显示了该神 ..

如何从 PySpark MultilayerPerceptronClassifier 获得分类概率?

我在 python 中使用 Spark 2.0.1,我的数据集在 DataFrame 中,所以我使用 ML(不是 MLLib)库进行机器学习.我有一个多层感知器分类器,但只有两个标签. 我的问题是,是否有可能不仅获得标签,而且(或仅)获得该标签的概率?不仅仅是每个输入的 0 或 1,而是 0.95 表示 0 和 0.05 表示 1.如果 MLP 无法做到这一点,但其他分类器可以做到,我可以更 ..

如何为 keras 提供恒定输入

我的网络有两个时间序列输入.其中一个输入有一个固定向量,每个时间步都重复.有没有一种优雅的方法将这个固定向量加载到模型中并使用它进行计算? 解决方案 您可以使用 jdehesa 描述的张量参数创建静态输入,但是张量应该是 Keras(而不是 tensorflow)变量.您可以按如下方式创建: from keras.layers import 输入从 keras 导入后端为 K常数 = [ ..

Keras:制作一个神经网络来找到一个数字的模数

我是一名经验丰富的 Python 开发人员,但在机器学习方面完全是新手.这是我第一次尝试使用 Keras.你能说出我做错了什么吗? 我正在尝试制作一个神经网络,它采用二进制形式的数字,并在除以 7 时输出其模数.(我的目标是执行一个非常简单的任务,只是为了看看一切正常.) 在下面的代码中,我定义了网络,并在 10,000 个随机数上对其进行了训练.然后我在 500 个随机数上对其进行测 ..