首页 > 其他 > 详细

SVM核函数

时间:2019-11-06 22:23:12      阅读:82      评论:0      收藏:0      [点我收藏+]

线性核函数:

 技术分享图片

多项式核函数:

 技术分享图片

径像基核函数/高斯核函数:

 技术分享图片

拉普拉斯核函数:

 技术分享图片

sigmod核函数:

 技术分享图片

吴恩达的见解:
1. 如果Feature的数量很大,跟样本数量差不多,这时候选用LR或者是Linear Kernel的SVM
2. 如果Feature的数量比较小,样本数量一般,不算大也不算小,选用SVM+Gaussian Kernel
3. 如果Feature的数量比较小,而样本数量很多,需要手工添加一些feature变成第一种情况

1)可以利用专家先验知识选择核函数,例如已经知道问题是线性可分的,就可以使用线性核,不必选用非线性核

2)利用交叉验证,试用不同的核函数,误差最小的即为效果最好的核函数

3)混合核函数方法,将不同的核函数结合起来

我觉得问题是线性可分和线性不可分其中之一,那在选择核函数的时候,如果不清楚问题属于哪一类,就两类核都尝试一下,所以可以主要尝试线性核以及RBF核。

1) Linear核:主要用于线性可分的情形。参数少,速度快,对于一般数据,分类效果已经很理想了。

2)RBF核:主要用于线性不可分的情形。参数多,分类结果非常依赖于参数。有很多人是通过训练数据的交叉验证来寻找合适的参数,不过这个过程比较耗时。

至于到底该采用哪种核,要根据具体问题,有的数据是线性可分的,有的不可分,需要多尝试不同核函数和不同参数。如果特征的提取的好,包含的信息量足够大,很多问题都是线性可分的。当然,如果有足够的时间去寻找RBF核参数,应该能达到更好的效果。

没有一种黄金规则可以确定哪种核函数将推导出最准确的SVM,在实践中,核函数的选择一般并不导致准确率的很大差别。

SVM核函数

原文:https://www.cnblogs.com/zjuhaohaoxuexi/p/11808898.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!