监督式学习

训练数据包括输入向量的示例及其相应的目标向量的应用被称为监督学习问题。

无监督学习

在其他模式识别问题中，训练数据由一组输入向量x组成，没有任何对应的目标值。这种无监督学习问题的目标可能是在数据中发现相似的例子组，在这里它被称为聚类

模式识别和机器学习(Bishop, 2006)

在简单 监督学习是一种机器学习问题，其中我们有一些标签，通过使用这些标签，我们实现了回归和分类等算法。分类应用于我们的输出形式类似于 0或1，真/假，是/否。回归是应用于实际价值的地方，比如房价

无监督学习是一种机器学习问题，其中我们没有任何标签，意味着我们只有一些数据，非结构化数据，我们必须使用各种无监督算法对数据进行聚类(数据分组)

既然你问了这个非常基本的问题，似乎有必要详细说明机器学习本身是什么。

Machine Learning is a class of algorithms which is data-driven, i.e. unlike "normal" algorithms it is the data that "tells" what the "good answer" is. Example: a hypothetical non-machine learning algorithm for face detection in images would try to define what a face is (round skin-like-colored disk, with dark area where you expect the eyes etc). A machine learning algorithm would not have such coded definition, but would "learn-by-examples": you'll show several images of faces and not-faces and a good algorithm will eventually learn and be able to predict whether or not an unseen image is a face.

这个特殊的人脸检测的例子是有监督的，这意味着你的例子必须被标记，或者明确地说哪些是人脸，哪些不是。

在无监督算法中，你的例子没有标记，也就是说你什么都不说。当然，在这种情况下，算法本身不能“发明”人脸是什么，但它可以尝试将数据聚类到不同的组中，例如，它可以区分人脸与风景非常不同，而风景与马非常不同。

Since another answer mentions it (though, in an incorrect way): there are "intermediate" forms of supervision, i.e. semi-supervised and active learning. Technically, these are supervised methods in which there is some "smart" way to avoid a large number of labeled examples. In active learning, the algorithm itself decides which thing you should label (e.g. it can be pretty sure about a landscape and a horse, but it might ask you to confirm if a gorilla is indeed the picture of a face). In semi-supervised learning, there are two different algorithms which start with the labeled examples, and then "tell" each other the way they think about some large number of unlabeled data. From this "discussion" they learn.

监督学习:你有标记的数据，必须从中学习。例如，房屋数据和价格，然后学会预测价格

无监督学习:你必须找到趋势，然后预测，没有预先给出的标签。 例句:班里有不同的人，然后又来了一个新同学，那么这个新同学属于哪个组呢?

机器学习: 它探索了可以从数据中学习并对数据进行预测的算法的研究和构建。这种算法通过从示例输入中构建模型来运行，以便做出数据驱动的预测或作为输出表示的决策，而不是严格地遵循静态的程序指令。

监督式学习: 这是从标记的训练数据推断出函数的机器学习任务。训练数据由一组训练示例组成。在监督学习中，每个例子都是一对，由一个输入对象(通常是一个向量)和一个期望的输出值(也称为监督信号)组成。监督学习算法分析训练数据并产生推断函数，该函数可用于映射新的示例。

由“老师”给计算机提供示例输入和它们期望的输出，目标是学习将输入映射到输出的一般规则。具体来说，有监督学习算法采用一组已知的输入数据和对数据(输出)的已知响应，并训练一个模型来生成对新数据响应的合理预测。

Unsupervised learning: It is learning without a teacher. One basic thing that you might want to do with data is to visualize it. It is the machine learning task of inferring a function to describe hidden structure from unlabeled data. Since the examples given to the learner are unlabeled, there is no error or reward signal to evaluate a potential solution. This distinguishes unsupervised learning from supervised learning. Unsupervised learning uses procedures that attempt to find natural partitions of patterns.

在无监督学习中，没有基于预测结果的反馈，也就是说，没有老师来纠正你。在无监督学习方法下，不提供标记的示例，在学习过程中没有输出的概念。因此，由学习方案/模型来寻找模式或发现输入数据的组

你应该使用无监督学习方法，当你需要一个大的 训练你的模型的数据量，以及意愿和能力 去实验和探索，当然这是一个不太好的挑战 通过更成熟的方法解决。无监督学习就是这样 可以学习比监督更大更复杂的模型 学习。这里有一个很好的例子

.

监督式学习

监督学习是基于对数据样本的训练 来自已分配正确分类的数据源。 这种技术用于前馈或多层 感知器(MLP)模型。这些MLP有三个特点 特点:

一层或多层不属于输入的隐藏神经元 或者网络的输出层，使网络能够学习和 解决任何复杂的问题 神经元活动所反映的非线性为 可微的, 网络的互联模型表现出高度的互联性 连通性。

These characteristics along with learning through training solve difficult and diverse problems. Learning through training in a supervised ANN model also called as error backpropagation algorithm. The error correction-learning algorithm trains the network based on the input-output samples and finds error signal, which is the difference of the output calculated and the desired output and adjusts the synaptic weights of the neurons that is proportional to the product of the error signal and the input instance of the synaptic weight. Based on this principle, error back propagation learning occurs in two passes:

传球前进:

这里，输入向量被呈现给网络。这个输入信号向前传播，一个神经元一个神经元地通过网络，并出现在输出端 网络作为输出信号:y(n) = φ(v(n))，其中v(n)是神经元的诱导局部场，定义为v(n) =Σ w(n)y(n)。在输出层o(n)计算的输出与期望的响应d(n)进行比较，并找到该神经元的误差e(n)。在这一过程中，神经网络的突触权重保持不变。

向后传递:

产生于该层输出神经元的错误信号通过网络向后传播。这将计算每个层中每个神经元的局部梯度，并允许网络的突触权值按照delta规则发生变化，如下:

Δw(n) = η * δ(n) * y(n).

这种递归计算继续进行，对每个输入模式进行向前传递和向后传递，直到网络收敛。

人工神经网络的监督学习模式是有效的，可以解决分类、植物控制、预测、预测、机器人等线性和非线性问题。

无监督学习

Self-Organizing neural networks learn using unsupervised learning algorithm to identify hidden patterns in unlabelled input data. This unsupervised refers to the ability to learn and organize information without providing an error signal to evaluate the potential solution. The lack of direction for the learning algorithm in unsupervised learning can sometime be advantageous, since it lets the algorithm to look back for patterns that have not been previously considered. The main characteristics of Self-Organizing Maps (SOM) are:

它将任意维度的输入信号模式转换为 一维或二维映射，并自适应地执行这种转换 该网络表示具有单一的前馈结构 计算层由一排排排列的神经元组成 列。在表示的每个阶段，每个输入信号都被保留 在适当的情况下， 处理紧密相关信息的神经元是紧密的 它们一起通过突触连接进行交流。

计算层也被称为竞争层，因为该层中的神经元相互竞争变得活跃。因此，这种学习算法被称为竞争算法。SOM中的无监督算法 工作分为三个阶段:

竞争阶段:

对于呈现给网络的每一个输入模式x，计算与突触权值w的内积，竞争层神经元找到一个诱发神经元竞争的判别函数，在欧氏距离上与输入权值向量接近的突触权值向量被宣布为竞争获胜者。这个神经元被称为最佳匹配神经元，

i.e. x = arg min ║x - w║.

合作的阶段:

获胜的神经元决定了合作神经元的拓扑邻域h的中心。这是通过横向相互作用d之间 合作的神经元。这种拓扑邻域在一段时间内减小了它的大小。

适应阶段:

使获胜的神经元及其邻近神经元根据输入模式增加其判别函数的个体值 通过适当的突触权重调整，

 Δw = ηh(x)(x –w).

在训练模式重复呈现后，由于邻域更新，神经网络的权重向量倾向于跟随输入模式的分布，因此神经网络在没有监督的情况下进行学习。

自组织模型自然地代表了神经生物学行为，因此被用于许多现实世界的应用，如聚类，语音识别，纹理分割，矢量编码等。

参考。