生成模型与判别模型的比对

前言

搞机器学习的人一定会绕不开「生成模型」和「判别模型」，但是要理解这两个模型有什么区别还是不容易的

生成模型

$\sum{P(X,Y)} = 1, P(X,Y) = P(X|Y)P(Y), P(Y|X) = P(X,Y)/P(X)$
对于未见示例X，要求出X与不同标记之间的联合概率分布，对比之后最大的概率为最终的Y
典型的生成模型包括：朴素贝叶斯，隐马尔可夫模型HMM

判别模型

$\sum{P(Y|X)} = 1$
对未见示例X，根据P(Y|X)可以求得标记Y，即可以直接判别出最终的Y
典型的判别模型包括：线性回归模型、支持向量机SVM, 条件随机场CRF