SVM: 大间距分类器

在SVM中，增加安全的间距因子

那么增加了这个间距因子后，会出现什么样的结果呢，我们将C设置为很大（C=100000）

SVM决策边界

当我们将C设置得很大进，要想SVM的cost function最小，则要使蓝色框里面的term=0，即当y(i)=1时，θ^Tx⁽ⁱ⁾>=1;当y(i)=0时，θ^Tx⁽ⁱ⁾<=-1。这时我们的cost function就会变成上图右边所示（S.T.表示限制条件），在求解这个cost function的最小值的时候，我们会得到一个决策边界，这时我们的决策边界会是什么样子呢？

SVM决策边界: 线性可分的例子(直观上理解什么叫做大间距分类器)

上图中的正负例子，我们可以线性可分，如上图所示，绿色的线，粉红色的线，黑色的线都可以将其分开，但是黑色的线分开的表现是最好的，绿色、粉红都有一些不好。黑色的线与两个正负样本之间有大的间距（margin）。

所以SVM也称为Large margin classifier(大间距分类器)

SVM: 大间距分类器

原文：http://www.cnblogs.com/yan2015/p/5176398.html