1 逻辑回归的应用场景

• 解决二分类问题
  • 广告点击率、是否患病、是否为垃圾邮件、虚假账号

2 逻辑回归的原理

2.1 输入

逻辑回归的输入就是一个线性回归的输出

2.2 激活函数

• sigmoid函数
  

• 判断标准

  • 回归的结果输入到sigmoid函数当中
  • 把整体的值映射到[0,1]
  • 再设置一个阈值，进行分类判断（默认为0.5）
    

逻辑回归最终的分类是通过属于某个类别的概率值来判断是否属于某个类别，并且这个类别默认标记为1(正例),另外的一个类别会标记为0(反例)。（方便损失计算）

• 举例：
  逻辑回归的阈值是可以进行改变的，下图中，设置阈值为0.6。
  

3 损失以及优化

3.1 损失

• 对数似然损失
  

• 借助了log思想，进行完成
  
  我们都希望损失函数值，越小越好

• 损失函数
  
  真实值等于0，等于1两种情况进行划分
  

• 举例：
  

通过该例子可知，P值越大，log(P)越小

3.2 优化

使用梯度下降优化算法，去减少损失函数的值。这样去更新逻辑回归前面对应算法的权重参数，提升原本属于1类别的概率，降低原本是0类别的概率。

逻辑回归1-原理、损失函数、优化方案

原文：https://www.cnblogs.com/yuyingblogs/p/15310959.html