神经网络的局部逆 [英] local inverse of a neural network

问题描述

我有一个有N个输入节点和N个输出节点的神经网络，其中可能有多个隐藏层和递归，但首先让我们忘记这些。神经网络的目标是学习N维变量Y*，给定N维值X。假设神经网络的输出是Y，学习后应该接近Y*。我的问题是：有没有可能得到输出Y*的神经网络的逆？也就是说，我如何得到X*的值，当我把它放入神经网络中时，它会产生Y*？(或类似的东西)

问题的一个主要部分是N非常大，通常在10000或100000量级，但如果有人知道如何为没有递归或隐藏层的小型网络解决这个问题，这可能已经很有帮助了。谢谢。

推荐答案

如果可以选择每层节点数相同、权值矩阵非奇异且传递函数可逆(例如泄漏REU)的神经网络，则该函数是可逆的。

这种神经网络简单地由矩阵乘法、偏差加法和传递函数组成。要反转，您只需要以相反的顺序应用每个操作的反转。即取输出，应用逆传递函数，将其乘以最后一个权重矩阵的逆，减去偏差，应用逆传递函数，乘以倒数第二个权重矩阵的逆，以此类推。

这篇关于神经网络的局部逆的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持IT屋！