图书馆和框架

在本章中,我们将深度学习与不同的库和框架联系起来.

深度学习和Theano

如果我们想要开始编码深度神经网络,我们最好知道不同的框架如Theano,TensorFlow,Keras,PyTorch等是如何工作的.

Theano是python库,它提供了一组构建函数在我们的机器上快速训练的深网.

Theano是在加拿大蒙特利尔大学开发的,由Yoshua Bengio领导,是一个深入的网络先驱.

Theano让我们用矢量和矩阵定义和评估数学表达式,这些矩阵是矩形数组.

从技术上讲,神经网络和输入数据都可以表示为矩阵和所有标准网络操作可以重新定义为矩阵操作.这很重要,因为计算机可以非常快速地执行矩阵运算.

我们可以并行处理多个矩阵值,如果我们构建具有这种底层结构的神经网络,我们可以使用一台机器使用GPU在合理的时间窗口内训练巨大的网络.

然而,如果我们使用Theano,我们必须从头开始构建深网.该库不提供创建特定类型深网的完整功能.

相反,我们必须对深网的每个方面进行编码,如模型,图层,激活,培训方法和任何特殊的方法来阻止过度拟合.

然而,好消息是Theano允许我们在矢量化函数的顶层构建我们的实现,为我们提供高度优化的解决方案.

还有许多其他库扩展了Theano的功能. TensorFlow和Keras可以与Theano一起用作后端.

使用TensorFlow进行深度学习

Googles TensorFlow是一个python库.这个库是构建商业级深度学习应用程序的绝佳选择.

TensorFlow来自另一个图书馆DistBelief V2,它是Google Brain Project的一部分.该库旨在扩展机器学习的可移植性,以便研究模型可以应用于商业级应用程序.

与Theano库非常相似,TensorFlow基于计算图,其中节点代表持久数据或数学运算和边表示节点之间的数据流,这是一个多维数组或张量;因此名称TensorFlow

操作或一组操作的输出作为输入输入到下一个.

尽管TensorFlow是为神经网络,它适用于其他网络,其中计算可以建模为数据流图.

TensorFlow还使用了Theano的一些功能,如共同和子表达式消除,自动区分,共享和符号变量.

可以使用TensorFlow构建不同类型的深网,如卷积网,自动编码器,RNTN,RNN,RBM,DBM/MLP等.

但是,在TensorFlow中不支持超参数配置.对于此功能,我们可以使用Keras.

深度学习和Keras

Keras是一个功能强大且易于使用的Python库,用于开发和评估深度学习模型.

它具有极简设计,允许我们逐层构建网络;训练它并运行它.

它包含了高效的数值计算库Theano和TensorFlow,并允许我们在几行代码中定义和训练神经网络模型.

它是一个高级神经网络API,有助于广泛使用深度学习和人工智能.它运行在许多较低级别的库之上,包括TensorFlow,Theano等. Keras代码是便携式的;我们可以使用Theano或TensorFlow在Keras中实现一个神经网络作为后端而不需要对代码进行任何更改.