本文介绍了深度网络（Deep Network）的优势，特别是其在表达复杂函数和学习图像中部分-整体关系的能力。深度网络的训练难点包括数据获取、局部极值和梯度弥散。为了解决这些问题，文章提出了逐层贪婪训练的方法，通过预训练的栈式自编码器（Stacked Autoencoders）初始化深度神经网络权重，最后进行微调以优化所有层的参数。以MINIST手写库识别为例，详细阐述了这一过程。
这一个多周忙别的事去了，忙完了，接着看讲义~
这章讲的是深度网络（Deep Network）。前面讲了自学习网络，通过稀疏自编码和一个logistic回归或者softmax回归连接，显然是3层的。而这章则要讲深度（多层）网络的优势。
Deep Network：
为什么要使用深度网络呢？使用深度网络最主要的优势在于，它能以简洁的方式来表达比浅层网络大得多的函数集合。正式点说，可以找到一些函数，它们能够用k层网络简洁的表达出来（这里的简洁指的是使用隐层单元的数目与输入单元数目是多项式关系），但是对一个只有（k-1）层的网络而言，除非它使用与输入单元数目呈指数关系的隐层单元数目，否则不能简洁表达这些函数。
在处理对象是图像的情况下，能够通
2409
2166
2141
1883
1664
1634
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
扫一扫
