线性分类 Linear Classification

软分类：y 的取值只有正负两个离散值，例如 {0, 1}

硬分类：y 是正负两类区间中的连续值，例如 [0, 1]

一、感知机

主要思想：分错的样本数越少越好

用指示函数统计分错的样本数作为损失函数，不可微；

对错误分类样本，∑ -y_i * f(x_i) = ∑ -y_i * W^Tx_i  (因为一定大于0，所以损失函数越小表示错误分类的样本越少)

二、线性判别分析

主要思想：同一类别的样本方差足够小，不同类别之间分散开（类内小，类间大）

三、Logistic 回归

判别模型，直接求 P(y|x)。用 MLE 来估计参数 W

sigmoid函数怎么来的？

四、高斯判别分析：

生成模型

五、朴素贝叶斯

线性分类 Linear Classification

原文：https://www.cnblogs.com/chaojunwang-ml/p/11192071.html