首页 > 系统服务 > 详细

吴恩达Machine Learning学习笔记(三)--逻辑回归

时间:2018-08-26 12:26:14      阅读:221      评论:0      收藏:0      [点我收藏+]

分类任务

  原始方法:通过将线性回归的输出映射到0~1,设定阈值来实现分类任务

  改进方法:原始方法的效果在实际应用中表现不好,因为分类任务通常不是线性函数,因此提出了逻辑回归

逻辑回归

假设表示--引入sigmoid函数g

  技术分享图片

  sigmoid函数将输出映射到区间(0,1),可以看作是概率

损失函数

  技术分享图片

多分类

  训练多个逻辑回归二分类器,对新的样本取预测概率最高的一个类别

欠拟合与过拟合

  欠拟合:高偏差,模型没有很好地捕捉到数据的结构,通常是因为模型太简单,使用特征太少

  过拟合:高方差,可以很好地拟合可用数据,但泛化能力很差,通常是因为采用了冗余的特征  

  解决过拟合:(1)减少不重要的特征数(2)使用正则化方法,降低参数变量theta的幅值

正则化损失函数

  线性回归:技术分享图片

  逻辑回归:技术分享图片

 

吴恩达Machine Learning学习笔记(三)--逻辑回归

原文:https://www.cnblogs.com/lypniuyou/p/9536832.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!