在 DNN 训练结束时返回逆 Hessian 矩阵，并在输入中使用偏导数
使用 Keras 和 Tensorflow 作为后端，我构建了一个 DNN，它以恒星光谱作为输入(7213 个数据点)并输出三个恒星参数(温度、重力和金属丰度).网络在我的测试集上训练得很好，预测也很好，但为了让结果在科学上有用，我需要能够估计我的错误.这样做的第一步是获得逆 Hessian 矩阵，这似乎无法仅使用 Keras.因此，我试图用 scipy 创建一个解决方法，使用 scipy.opt
..
hessian-matrix相关内容
如何使用 theano.gradient.hessian?需要的例子
我尝试了以下代码: x=T.dvector('x')y=T.dvector('y')输入=[x,y]s=T.sum(x**2+y**2)f=theano.gradient.hessian(s,wrt=input)h=函数(输入，f) 然后我使用以下实际值运行它 x=[1,2]y=[1,2]h([x,y] 然后我遇到了以下错误 TypeError: ('在索引 0(基于 0)'，'错误的维
..
计算关于张量流中几个变量的粗麻布
在 tensorflow 中计算 Hessian 非常简单: x = tf.Variable([1., 1., 1.], dtype=tf.float32, name="x")f = (x[0] + x[1] ** 2 + x[0] * x[1] + x[2]) ** 2hessian = tf.hessians(f, x) 正确返回 [[ 8., 20., 4.],[20., 34., 6
..
在XGBoost.XGBRegressor中创建自定义目标函数
因此，我对使用python的ML/AI游戏还是比较陌生的，我目前正在研究围绕XGBoost的自定义目标函数的实现的问题. 我的微分方程知识非常生锈，因此我创建了一个带有梯度和粗麻布的自定义obj函数，该函数对作为XGBRegressor中默认目标函数运行的均方误差函数建模，以确保我正在执行所有操作这是正确的.问题是模型的结果(错误输出很接近，但在大多数情况下是不相同的(在某些方面有些偏离).
..
符号向量函数的Matlab梯度和hessian计算
我正在尝试使用Matlab的“梯度"和"hessian"函数来计算符号向量函数相对于向量的导数.下面是使用S型函数1/(1 + e ^(-a))的示例，其中a是特征向量乘以权重.以下所有版本均返回错误.我是Matlab的新手，非常感谢您提供任何建议.在文档中，解决方案很可能在我的脑海中.无法解决问题.预先感谢您的帮助！ %version 1 syms y w x x = sym('x', [
..
Tensorflow:针对高阶张量计算Hessian矩阵(仅对角线部分)
我想针对vgg16 conv4_3层内核的每个特征图(3x3x512x512尺寸矩阵)计算指定损失的一阶和二阶导数(Hessian的对角线部分).我知道如何根据 # Inspecting variables under Ipython notebook In : Loss Out :
..
创建形式为A.T * diag(b)* A + C的稀疏矩阵的最快方法
我正在尝试优化一段使用内点方法解决大型稀疏非线性系统的代码.在更新步骤中，这涉及到计算Hessian矩阵H，梯度g，然后求解H * d = -g中的d以获得新的搜索方向. Hessian矩阵具有以下形式的对称三对角结构: A.T * diag(b)* A + C 我已在有问题的特定功能上运行 line_profiler : Line # Hits Time Per
..
DNN训练结束时返回Hessian逆矩阵，并且使用输入进行偏导数
我使用Keras和Tensorflow作为后端，构建了一个将恒星光谱作为输入(7213个数据点)并输出三个恒星参数(温度，重力和金属度)的DNN.网络在我的测试集上训练得很好并且可以很好地预测，但是为了使结果在科学上有用，我需要能够估计我的错误.这样做的第一步是获得逆Hessian矩阵，似乎仅使用Keras是不可能的.因此，我尝试使用scipy.optimize.minimize并使用BFGS，L
..
R Hessian矩阵
我需要创建函数的Hessian矩阵如下： func
..