我正在阅读有关深度学习的论文。他们中的大多数是指无监督学习。
他们还说，使用无监督的RBM网络对神经元进行预训练。之后，他们使用反向传播算法（监督）进行微调。
那么我们可以使用深度学习解决监督学习问题吗？
我试图找出是否可以将深度学习应用于文档分类问题。我知道有很好的分类器可供选择。但我的目标是找出我们是否可以为此目的使用深度学习。
简而言之 - 是的，它可以是，并且经常以受监督的方式使用。正如Ben J所描述的那样 - 架构的“深度”在otder中以无监督的方式使用，以创建非常抽象的数据表示，以后可以用作预处理层（无微调）或初始化对于神经网络（具有微调，类似Hinton）。特别是你可以使用这种方法来处理文本。
Hinton最近有一篇有趣的论文，关于用DBM建模文本文档：http://www.cs.toronto.edu/~rsalakhu/papers/uai13.pdf
网上有很多可用的资源，特别是pylearn图书馆实现了这样的方法，包括“经典”DBN（Deep Beiief Network）http://deeplearning.net/tutorial/DBN.html
此外，还可以使用仅堆叠的RBM实际进行分类，该模型被称为“分类RBM”。更多细节可以在这里获得：http://machinelearning.org/archive/icml2008/papers/601.pdf
深度学习是关于学习未知概念，因此通常用于查找数据集中的模式。这是无监督的，因为这些模式不一定是先验已知的。然而，在有监督的学习中，您需要的模式类型可以通过训练模式的形式轻松地理解，这些模式适合您试图了解的数据。这些模式成为使您的模型（例如使用反向传播训练的神经网络）适合您的数据的基础。没有真正发现新的概念和组件。所以从这个角度来看，我会说不，深度学习不能用于解决有监督的学习问题。
话虽如此，您可以使用它来查找数据中的有趣模式。然后，您可以使用这些有趣的模式作为使用标准监督方法进行培训的基础。也许这就是他们上面提到的，你提到的
“他们还说，使用无监督的RBM网络对神经元进行预训练。之后使用反向传播算法（监督）对它们进行微调。”
如果没有阅读您所阅读的内容，也许他们会首先使用无监督算法来查找最有趣的数据，并在此过程中执行一种降维方式，从而使用监督算法生成比原始数据更容易训练的数据。
除了上面提供的好的参考文献之外，还有Yann Le Cunn小组的另一篇论文，它只是通过编码字符进行文本分类而不使用任何外部特征提取库。它只需在字符级别进行编码即可。他们声称准确率为98％。
是的，肯定的。实际上，在行业中，深度学习主要用于解决监督问题。 RBM和这种无监督的事物并没有在学术界外广泛应用。要了解有关监督学习的深度学习的更多信息，您可以在2012年之后阅读论文，从与ImageNet Challenge相关的任何内容开始。
这些是深度神经网络的主要里程碑：