下面是CS299课堂讲稿中最重要的部分(作者:Andrew Ng)，它帮助我理解了判别学习算法和生成学习算法之间的区别。

假设我们有两类动物，大象(y = 1)和狗(y = 0)， x是动物的特征向量。

给定一个训练集，像逻辑回归或感知器算法这样的算法(基本上)试图找到一条直线——也就是一个决策边界——将大象和狗分开。然后，分类 一种新动物，比如大象或狗，它会检查它的哪一边 决定其所处的边界，并据此做出预测。我们称之为判别学习算法。

这里有一个不同的方法。首先，看看大象，我们可以建立一个 大象的模型。然后，看着狗，我们可以建立一个 单独的狗狗模型。最后，为了给一种新动物分类， 我们可以将新动物与大象模型相匹配，并将其与 狗的模型，看看新动物是否更像大象 或者更像我们在训练场上看到的狗。我们称之为生成式学习算法。

这是一个额外的信息点，与上面StompChicken的回答相吻合。

判别模型和生成模型的根本区别在于:

判别模型学习类之间的(硬的或软的)边界 生成模型为单个类的分布建模

编辑:

生成式模型是可以生成数据的模型。它同时对特征和类(即完整的数据)建模。

如果我们对P(x,y)建模:我可以使用这个概率分布来生成数据点——因此所有建模P(x,y)的算法都是生成的。

如。生成模型

朴素贝叶斯模型P(c)和P(d|c) -其中c是类，d是特征向量。 P(c,d) = P(c) * P(d|c) 因此，某些形式的朴素贝叶斯模型，P(c,d) 贝叶斯网 马尔可夫网

判别模型是指只能用于对数据点进行判别/分类的模型。 你只需要在这种情况下建模P(y|x)，(即给定特征向量的类别概率)。

如。关于判别模型:

逻辑回归 神经网络 条件随机场

一般来说，生成式模型比判别式模型需要更多的建模，因此有时不那么有效。事实上，大多数(不确定是否全部)无监督学习算法，如聚类等，可以被称为生成式，因为它们建模P(d)(并且没有类:P)

附言:部分答案来源于原文

简短的回答

这里的许多答案都依赖于广泛使用的数学定义[1]:

判别模型直接学习条件预测分布p(y|x)。 生成模型学习联合分布p(x,y)(或者说，p(x|y)和p(y))。 预测分布p(y|x)可以用贝叶斯规则得到。

Although very useful, this narrow definition assumes the supervised setting, and is less handy when examining unsupervised or semi-supervised methods. It also doesn't apply to many contemporary approaches for deep generative modeling. For example, now we have implicit generative models, e.g. Generative Adversarial Networks (GANs), which are sampling-based and don't even explicitly model the probability density p(x) (instead learning a divergence measure via the discriminator network). But we call them "generative models” since they are used to generate (high-dimensional [10]) samples.

一个更广泛、更基本的定义[2]似乎同样适合这个一般性问题:

判别模型学习类之间的边界。 所以他们可以区分不同类型的数据实例。 生成模型学习数据的分布。 因此它们可以生成新的数据实例。

图片来源

仔细观察

即便如此，这个问题还是暗示了一种错误的二分法。生成-判别“二分法”实际上是一个频谱，您甚至可以平滑地在[4]之间插入。

因此，这种区分变得武断和令人困惑，特别是当许多流行的模型并没有整齐地归入其中一个或另一个时[5,6]，或者实际上是混合模型(经典的“判别”和“生成”模型的组合)。

尽管如此，这仍然是一个非常有用和常见的区别。我们可以列出一些生成式和判别式模型的明确例子，既有标准的，也有最近的:

生成:朴素贝叶斯，潜狄利克雷分配(LDA)，生成对抗网络(GAN)，变分自编码器(VAE)，归一化流。 判别:支持向量机(SVM)，逻辑回归，大多数深度神经网络。

还有很多有趣的工作深入研究了生成-判别划分[7]和频谱[4,8]，甚至将判别模型转换为生成模型[9]。

最后，定义在不断变化，尤其是在这个快速发展的领域:)最好对它们有所保留，甚至可以为自己和他人重新定义它们。

来源

Possibly originating from "Machine Learning - Discriminative and Generative" (Tony Jebara, 2004). Crash Course in Machine Learning by Google The Generative-Discriminative Fallacy "Principled Hybrids of Generative and Discriminative Models" (Lasserre et al., 2006) @shimao's question Binu Jasim's answer Comparing logistic regression and naive Bayes: cs.cmu.edu/~tom/mlbook/NBayesLogReg.pdf "On Discriminative vs. Generative classifiers" Comment on "On Discriminative vs. Generative classifiers" https://www.microsoft.com/en-us/research/wp-content/uploads/2016/04/DengJaitly2015-ch1-2.pdf "Your classifier is secretly an energy-based model" (Grathwohl et al., 2019) Stanford CS236 notes: Technically, a probabilistic discriminative model is also a generative model of the labels conditioned on the data. However, the term generative models is typically reserved for high dimensional data.

一般来说，机器学习社区有一个惯例，那就是不要学你不想学的东西。例如，考虑一个分类问题，目标是为给定的x输入分配y个标签。如果我们使用生成模型

p(x,y)=p(y|x).p(x)

我们必须为p(x)建模，而p(x)与当前任务无关。像数据稀疏性这样的实际限制将迫使我们用一些弱独立性假设来建模p(x)。因此，我们直观地使用判别模型进行分类。

想象一下，你的任务是将演讲分类为一种语言。

你可以通过以下任何一种方式:

学习每一种语言，然后用你刚刚学到的知识对它进行分类

or

在不学习语言的情况下确定语言模型的差异，然后对语音进行分类。

第一种是生成方法，第二种是判别方法。

查看参考资料了解更多细节:http://www.cedar.buffalo.edu/~srihari/CSE574/Discriminative-Generative.pdf。

这篇文章帮助我理解了这个概念。

总之,

两者都是概率模型，这意味着它们都使用概率(准确地说，是条件概率)来计算未知数据的类别。 生成式分类器在数据集上应用联合PDF和贝叶斯定理，并使用这些值计算条件概率。 判别分类器直接在数据集上找到条件概率

一些不错的阅读材料:条件概率，联合PDF